지난 주였던 12월 13일, 플랫폼9와 3/4의 임수정 이사님과 함께 이경전 교수님을 인터뷰하러 갔습니다. AI는 예전부터 계속 다루고 싶었던 주제였습니다. 특히 샘 알트만이 오픈AI에서 쫓겨났다가 복귀하는 사건이 있고나서 "AI가 인류에게 해롭냐, 이롭냐"를 가지고 논쟁(?)이 있는 것 같아 흥미롭게 지켜봤습니다.

사실 AI의 위험성이나 위협에 대한 얘기는 오래 전에도 몇 번 들은 적이 있습니다. 알파고가 이세돌을 이겼을 때에도 한창 많이 나왔던 얘기였던 걸로 기억합니다. 그 당시 (지금보다는 덜 유명했던) 일론 머스크가 한 방송에 나와 "AI가 정말로 빠르게 발전해서 인류를 지배하게 될까 무섭다"며 눈물로 호소하던(?) 장면도 기억납니다. 

제가 존경하는 과학자 스티븐 호킹 박사님도 AI의 위험성에 대해 꾸준히 경고했습니다. 지구를 떠나기 전까지도 말이죠. 2014년 BBC에서 한 호킹 박사님 인터뷰(벌써 10년 전이라니 말도 안ㄷ…)에서도 "완전한 인공지능의 발달은 인류의 종말을 가져올 수도 있다."라고 말했었고요. 

그래서 사실 이경전 교수님을 만나뵈러 가면서 그런 것들을 묻고 싶었습니다. AI가 인류에게 어떻게 위협이 된다는 건지 궁금했거든요. 하지만 교수님께서는 단번에 그런 종말론적인 이야기에는 근거가 없다고 말씀을 하셨습니다. 물론 실제적인 위협이 될 요소들을 해결하는 데 집중해야 한다고 말씀하시기도 했습니다. 

본문 글에는 자세히 들어가지 못했지만, 혹시라도 “그래서 (어떤 과학자들은) 왜 AI가 위험하다고 하는건데?”라는 질문이 남아 있는 분들을 위해 간략히 글을 정리했습니다. 

(절대 인터뷰를 가기 전 조사했던 자료가 아까워서 쓰는 거 아닙니다. 😉)

#거짓 정보로 뒤덮인 세상

챗GPT가 세상에 나오고 얼마 되지 않아 화제가 됐던 것이 바로 '환각' 현상. 바로 그럴듯한 거짓말인데요. AI가 인터넷에 글을 올리기 시작하면 어떤 일이 벌어질까요? 자동으로, 무궁무진하게 게시글과 사진, 댓글을 달며 마치 인간처럼 활동한다면 말이예요. 우리는 AI가 쓴 글이나 사진, 영상을 구분할 수 있을까요? 인터넷이 AI가 만든 거짓 정보로 넘쳐나고 오염되지는 않을까요?

#AI가 만드는 대량실업 사태

세계경제포럼은 지난 5월 '직업의 미래'라는 제목의 보고서에서 AI의 등장으로 2027년까지 8300만개의 일자리가 사라진다고 예측했습니다. (그리고 6900만개의 일자리가 또 새로 생길 것이라고 예측) AI가 사람을 대체하는 과정에서 대량 실업이 발생한다면, 그것도 전방위 산업에서 동시다발적으로 갑작스럽게 일어난다면 어떻게 될까요? (참고로 샘 올트먼은 해결책으로 기본소득을 언급하기도 했죠.)

#인간의 통제를 벗어난 AI

종이클립 이론(paperclip maximizer theory)이 있습니다. AI에게 종이 클립 생산을 맡기면서 최대한 많은 종이클립을 만들라고 명령을 내렸더니, AI가 클립을 만드는 데 인간이 방해가 된다는 걸 깨닫고 인간마저도 모조리 죽이고 종이클립을 무한정 생산하게 된다는 사고 실험입니다. AI가 인간을 넘어서는 초지능을 가지게 된다는 가정인데, SF영화 소재로도 많이 쓰였습니다. AI가 스스로 코드를 짜고, 실행도 할 수 있고, 나아가 어떤 행동(핵 버튼을 누른다거나)까지도 할 수 있다면 어떻게 될까요? 

#잘쓰면 약, 못쓰면 독

물론 인간의 통제 하에 있다고 해서 걱정이 안되는 것도 아닙니다. 소위 ‘나쁜 놈'들의 손에 들어가면? 누군가 악의적으로 AI를 이용해 거짓정보를 퍼뜨리고, 사람을 속이거나 협박하는 등 범죄에 사용하게 되면요? 선거에 악용되고, 가짜뉴스를 더욱 빠르게 퍼뜨려 우리 사회를 큰 혼란에 빠뜨린다면? 또 테러단체라던가, 독재국가에서 탄압의 용도로 쓰일 수도 있습니다. “막는다고 막아지냐? 그럴 바에 그냥 모든 사람에게 오픈해라"라는 입장도 있습니다. 

물론 더 많은 상상력을 발휘한다면 또 새로운 위협거리도 발견할 수 있을지 모릅니다. 우리가 상상하지도 못했던 영역에서 부작용이나 한계점, 위험이 드러날 수도 있고요. 사실은 AI를 두고 doomer와 boomer, 이분법적으로만 바라볼 수 없는 게 현실입니다. 이런 방식이 편리하기는 하지만, 논의에 따라 다양한 시각이 존재하기 때문이죠. 

보통 안 좋은 뉴스나 비판적인 생각이 대중들의 눈길을 끈다는 것도 부정할 수 없습니다. AI가 뭔지 잘 모르기 때문에, 또는 과대포장되어 있기 때문에, 그런 비판적인 시선이 더 큰 목소리로 퍼지는 걸 수도 있고요. 

“AI로 인류가 멸종할 수도 있다고?” 괴담인가 진정성있게 고민해야 할 문제인가. 호기심으로 글을 시작했지만 파면 팔수록 머리속이 복잡해지는 것 같습니다. AI 위협에 대해 상상하는 게 재밌기는 하지만(저만 그런가요? 하핫), 이제는 우리 삶에 아주 가까이 들어오게 된만큼 어떻게 잘 사용할지를 논의하는 게 더욱 중요한 시기라고 생각됩니다. 그래서 다음 편으로(?) 준비한 게 바로 하정우 센터장님을 모시고 하는 질의응답!

실제 네이버에서 초거대AI를 개발한 연구자 중의 연구자! 
국내 최고의 AI 전문가! 하정우 센터장님을 어렵게 어렵게 모셨으니, 
하정우 센터장님과의 인터뷰에도 많은 관심과 댓글, 그리고 질문도 부탁드립니다.