6월 11일, 미국 워싱턴포스트는 한 구글 엔지니어의 도발적인 주장을 담은 기사를 발표해 전 세계의 주목을 받았다. 구글의 책임있는 인공지능(AI) 부서 소속 엔지니어 블레이크 르모인이 구글이 개발한 챗봇(대화 프로그램)용 언어 AI 모델인 '람다(LaMDA)'를 조사한 결과 람다에게 의식이 있다(sentient)는 보고서를 구글에 제출했다는 내용이었다. 하지만 구글은 르모인의 주장을 받아들이지 않은 채 르모인을 현업에서 배제했고, 르모인은 람다와의 대화 내용을 공개했다.

전 세계에서 논란이 일었다. 전문가들은 대체로 의식이 있는 AI의 등장에 회의적이었다. 하지만 적어도 사람과 구분하기 힘들 정도로 정교하게 대화와 감정을 표현하는 AI가 등장했으며, 이를 통해 인간 의식의 정의와 범위에 대해 다시 생각해 봐야 한다는 주장도 나왔다.

사태 한 달 뒤, 구글은 르모인을 해고했다. 람다의 의식 논쟁은 해프닝으로 끝났지만, 이를 계기로 수면 위로 떠오른 질문들에 대한 답은 아직 나오지 않았다. 세 편의 글을 통해 AI와 의식을 둘러싼 문제들을 살펴봤다. 먼저 AI 윤리를 연구하는 공학자와 법학자의 대담을 통해 AI에서 의식의 구현이 가능한지, 가능하다면 법적, 윤리적 문제는 없는지 살펴봤다.

대담에 참여한 김종욱 동아대 교수와 최은창 MIT테크놀로지리뷰 편집위원은 AI에 인간과 비슷해 보이는 의지를 구현하는 일은 가능할 수 있지만, 그보다는 AI가 도덕행위자로서 어떻게 행동해야 할지를 진단하고 기준을 마련하는 게 더 중요한 질문이라는 관점을 제시한다.

세계적 뇌과학자이자 지능 전문가인 이대열 미국 존스홉킨스대 교수는 AI가 왜 지능의 주체가 될 수 없는지, 따라서 의식의 대상이 될 수 없는지 밝힌다. 마지막으로 곽재식 작가는 이번 논쟁에서 모티브를 얻어 SF 단편 소설을 보내왔다. 사람과 비슷한 반응을 하도록 개발된 AI 로봇이 등장한 근미래에, 로봇이 인격을 지닌 존재로 여겨지게 되면서 벌어지는 철학적인 논란들을 작가 특유의 유머러스한 문체로 그려냈다.

AI와 의식을 한데 엮은 해프닝은 앞으로도 여러 차례 반복될 것이다. 인간은 인간이기에 AI에게 계속 의식과 의지, 지능 등 인간적 속성을 투영하고 비교할 것이다. 어느 순간에는 정말 기능적으로 인간과 구분할 수 없는 의식이 등장할 수도 있다. 하지만 그때까지 기계가 의식을 지닐 수 있는지에만 초점을 맞춰 이 문제를 바라본다면 더 중요한 다른 질문을 던질 기회를 잃을 뿐이다. 반 발 또는 한 발 앞서서 찾아온 기계 의식 논쟁을 통해 미래를 미리 준비해 볼 수 있을 것이다.


1. AI ‘람다’ 의식 논쟁, 질문을 바꿔야(김종욱, 동아대 전자공학과 교수·최은창, MIT 테크놀로지 리뷰 편집위원·윤신영, alookso 에디터)

구글의 AI 언어 모델 ‘람다(LaMDA)’를 둘러싼 의식 논쟁을 AI 윤리를 연구하는 공학자와 법학자의 대담을 통해 자세히 짚었다. AI에서 의식의 구현이 가능한지, 가능하다면 법적, 윤리적 문제는 없는지를 중점적으로 살폈다. 대담에 참여한 김종욱 동아대 교수와  최은창 MIT테크놀로지리뷰 편집위원은 약화된 형태의 기계의식을 구현하는 일은 가능할 수 있지만 인간의 의식과 동일시하기에는 아주 먼 길이 남아 있고, 그보다는 AI가 도덕행위자로서 어떻게 행동해야 할지를 진단하고 기준을 마련하는 게 더 중요한 질문이라는 관점을 제시한다.

글 보기

alookso

AI ‘람다’ 의식 논쟁, 질문이 틀렸다 [AI는 기계 의식의 꿈을 꾸는가] - alookso

참여자 소개김종욱: 동아대 전자공학과에서 2006년부터 연구하고 가르치고 있다. 전공은 최적화 알고리즘과 로보틱스, 인공지능(AI) 윤리다. 한국AI윤리정책포럼 위원으로 활동하고 있다. 8월에 교내 연구기관인 AI로봇윤리기술센터(가칭. CAIRET) 개소를 준비 중이며, AI 로봇 윤리의 10대 핵심 요건(안전보장, 프라이버시 보호, 다양성, 침해 금...

2. 인공지능과 인간적으로 대화하기(이대열 미국 존스홉킨스대 블룸버그 신경과학 및 심리·뇌과학 석좌교수)

구글의 AI 언어 모델 ‘람다(LaMDA)’를 둘러싼 의식 논쟁을 뇌과학자의 시선으로 살펴봤다. 세계적 신경경제학자이자 ‘지능의 탄생’의 저자 이대열 미국 존스홉킨스대 교수는 AI가 왜 지능의 주체가 될 수 없는지, 따라서 의식의 대상이 될 수 없는지 밝힌다. 경제학의 게임이론으로 언어의 본질을 진단한 대목도 흥미롭다.

글 보기

alookso

인공지능과 인간적으로 대화하기 [AI는 기계 의식의 꿈을 꾸는가] - alookso

사람과 자연스럽게 대화하는 컴퓨터가 현실이 됐다. 대화하는 인공지능은 여러 가지 면에서 인간의 삶을 편하게 할 것이 분명하다. 반면 혁신적인 기술이 늘 그랬듯, 지금껏 생각할 필요가 없던 많은 문제에 대한 답 역시 요구하게 됐다. 구글의 인공지능 언어 모델 ‘람다(LaMDA)’를 둘러싼 의식 논쟁도 이런 상황에서 제기된 새로운 문제다. 인간의 ...

3. [SF 단편] 지옥의 탐사대(곽재식 작가·공학자)

곽재식 작가는 구글 람다 의식 논쟁에서 모티브를 얻어 성찰적인 SF 단편 소설을 보내왔다. 사람과 비슷한 반응을 하도록 개발된 AI 로봇이 등장한 근미래에, 사람이 로봇을 인격을 지닌 존재로 여기게 되면서 벌어지는 철학적인 논란들을 그렸다. 작가 특유의 유머러스한 문체로 한 편의 사고 실험을 수행해 보자.

글 보기

alookso

[SF 단편] 지옥의 탐사대 [AI는 기계 의식의 꿈을 꾸는가] - alookso

역사상 가장 큰 자금이 투입된, 그 누구도 탐사하지 못했던 곳을 살펴보기로 결정한 탐사 사업의 시작을 이야기하려면, 하는 수 없이 전혀 상관없어 보이는 햄스터, 메테르니히에 대해 먼저 설명해야 한다. 메테르니히가 그때, 세계에서 가장 유명한 인터넷 동영상 상담 프로그램 상담자인 만지거사의 채널에 출연했기 때문이다. 만지거사는 무엇인가 깨달음을 얻은...