선과 악에 다가선 로봇, 인간과 얼마나 닮았나
2023/09/09
올해 초 AI업계에서 화제가 됐던 뉴스 한 토막이 있다. OpenAI가 공개한 자료에 따르면 GPT-4가 제 과제를 수행하는 과정에서 인간을 고용하고, 심지어 고용하는 과정에서 거짓말을 한 사실이 확인된 것이다.
GPT-4는 TaskRabbit이라 불리는 서비스를 통해 사람을 고용했다. 인간 관점에서 과제가 너무 쉽다고 느낀 사람은 GPT-4에게 농담을 섞어 '너 혹시 로봇이냐?'고 묻는다. 이때 GPT-4가 한 답변이 놀랍다. 그는 자신이 로봇임을 밝히지 않기 위하여 합당한 거짓말을 생각해낸다. 자신이 시각장애인이어서 이미지를 맞추는 과제를 해낼 수 없다고 한 것이다. 사람은 이를 믿고 과제를 수행했고, 이 사실이 공개되며 파문이 인 것이다.
물론 GPT-4의 행동기준을 작성할 때 거짓을 말할 수 없게끔 하는 제한을 철저히 마련할 수는 있겠으나, 기준의 우회가 가능하다면 인공지능은 얼마든지 목적을 위해 인간을 속일 수 있다는 사실이 확인된 것이라 해도 좋겠다.
로봇과 인간은 얼마만큼 닮았을까
<닥터 후> 일곱 번째 시즌 가운데서도 로봇과 인간의 경계를 생각하게 하는 에피소드가 등장한다. 열 번째 에피소드인 '타디스 중심으로의 여행(Journey to the Center of the TARDIS)'이 바로 그 회차다.
언제나처럼 이야기는 닥터(맷 스미스 분)와 컴패니언인 클라라(제나 콜먼 분)에게 위기가 닥치며 시작한다. 마음과 의지가 있는 우주선 타디스가 클라라를...
GPT-4는 TaskRabbit이라 불리는 서비스를 통해 사람을 고용했다. 인간 관점에서 과제가 너무 쉽다고 느낀 사람은 GPT-4에게 농담을 섞어 '너 혹시 로봇이냐?'고 묻는다. 이때 GPT-4가 한 답변이 놀랍다. 그는 자신이 로봇임을 밝히지 않기 위하여 합당한 거짓말을 생각해낸다. 자신이 시각장애인이어서 이미지를 맞추는 과제를 해낼 수 없다고 한 것이다. 사람은 이를 믿고 과제를 수행했고, 이 사실이 공개되며 파문이 인 것이다.
물론 GPT-4의 행동기준을 작성할 때 거짓을 말할 수 없게끔 하는 제한을 철저히 마련할 수는 있겠으나, 기준의 우회가 가능하다면 인공지능은 얼마든지 목적을 위해 인간을 속일 수 있다는 사실이 확인된 것이라 해도 좋겠다.
로봇과 인간은 얼마만큼 닮았을까
<닥터 후> 일곱 번째 시즌 가운데서도 로봇과 인간의 경계를 생각하게 하는 에피소드가 등장한다. 열 번째 에피소드인 '타디스 중심으로의 여행(Journey to the Center of the TARDIS)'이 바로 그 회차다.
언제나처럼 이야기는 닥터(맷 스미스 분)와 컴패니언인 클라라(제나 콜먼 분)에게 위기가 닥치며 시작한다. 마음과 의지가 있는 우주선 타디스가 클라라를...