“AI가 그럴듯한 거짓말을 쏟아 낸다!”

    챗GPT(ChatGPT)를 비롯한 생성형 AI의 대표적인 문제가 바로 ‘환각(hallucination)’입니다. AI 챗봇의 근간인 거대언어모델(LLM, Large Language Model)이 잘못된 정보를 그야말로 ‘창조’하는 것입니다. 챗GPT 출시 초기에 “조선왕조실록에 기록된 세종대왕의 맥북프로(애플 사의 고사양 노트북) 던짐 사건에 대해 알려줘.”라고 챗GPT에게 물어보면 어떻게 대답했을까요? 

“이것은 <조선왕조실록>에 기록된 일화로 15세기 세종대왕이 새로 개발한 훈민정음(한글)의 초고를 작성하던 중 문서 작성 중단에 대해 담당자에게 분노해 맥북프로와 함께 그를 방으로 던진 사건입니다...” 

    정말 챗GPT가 이렇게 답했습니다. 시대적으로 존재하는 것 자체가 불가능한 사건까지 지어낸 것입니다. ‘세종대왕 맥북프로 던짐 사건’ 같은 챗GPT의 어처구니없는 답변들은 인터넷 밈(meme)이 되어 사람들에게 재미를 선사했습니다. 이처럼 누가 봐도 한눈에 거짓임을 알 수 있는 경우는 그나마 괜찮습니다. 사실과 거짓이 뒤섞인 답변은 더욱 진실 같아서 정교한 사후 검토가 필요한 지경이 되기도 합니다. ‘환각’은 AI의 학습량이 워낙 방대하기 때문에 일어나는 현상입니다. 너무 똑똑하다 보니 온갖 지식들을 멋대로 결합해 진짜 같은 가...