AI 가짜 뉴스 문제, 진단서와 처방전 by 김재경

alookso콘텐츠 · 콘텐츠팀

2024/07/03

1일 국회 운영위 전체회의에서는 때 아닌 ‘챗GPT’ 논란이 벌어졌다. 해병대원 수사 외압 의혹에 관해 강유정 민주당 의원이 “구글에 검색하면 02-800으로 시작하는 대통령실 번호가 16개 뜬다, 챗GPT에 물어봤더니 각 부서 전화번호를 알려줬다”고 주장했다. 강 의원은 해병대원 수사 외압의혹 당일인 지난해 7월 31일 이종섭 당시 국방장관에게 걸려온 전화번호의 정체를 대통령실에 묻는 중이었다. 야당은 전화를 건 주인공을 밝히길 요구했고, 대통령실은 기밀이라고 맞섰다. 권영진 국민의힘 의원은 보충 질의 때 “그대로 물어봤는데 유료로 검색을 해도 ‘전체 목록은 알려드릴 수 없다’고 나온다”며 반박했다. 두 사람의 주장을 그대로 믿는다면, 챗GPT는 똑같은 질문에 대해 서로 다른 답변을 했다. 챗GPT 등 생성 인공지능(AI)가 사실 관계를 엄밀히 따져야 할 자리에서 사용될 수 있는 도구인가 의문을 갖게 하는 대목이다. 실제로 생성 AI와 대형언어모델(LLM)을 이용한...

김재경 · Active Researcher

2024/07/15

AI 가짜 뉴스 문제, 진단서와 처방전

산업/기술/IT

올해는 전 세계 인구 절반 이상이 투표하는 ‘슈퍼 선거의 해’이다. 어느 나라건 선거는 정책에 대한 토론이나 상대편에 대한 원색적 비난 등 여러 문제가 발생하지만, 최근 AI 기술의 발전으로 ‘가짜 뉴스(이하 ‘허위 정보’)문제가 두드러지고 있다. 앞서 살펴본 트럼프 체포 이미지 역시 AI로 생성된 이미지로, 사전 정보가 없다면 실제 사진으로 알 법 하다. 이런 사진 한 장으로 잘못하면 수십, 수백만 유권자의 투표에 영향을 주어 민주주의에 심각한 문제가 될 수 있다. 또한, 인공지능은 사진뿐만 아니라 허위 정보를 담고 있는 동영상, 신문 기사 및 정보 등을 쉽게 만들어내며, 연예인이나 일반인 대상의 성범죄에 활용될 수 있는 등 사회적으로 큰 문제가 될 수 있다. 이런 상황을 어떻게 해결해야 할까?

AI가 만드는 허위 정보 문제, 원인 진단서.

어떤 문제를 해결하기 위해선 언제나 문제의 ‘원인’을 알아야 한다. AI가 만들어내는 허위 정보가 왜 문제가 되는지, 이유를 짚어 보았다.

Chatgpt4o의 GPTs인 'image generator'를 통해 필자가 직접 생성

1) 생성형 AI의 성능 향상

생성형 AI가 성능이 그저 그랬다면, AI가 만드는 허위 정보들은 크게 문제가 되지 않았을 것이다. 과거에는 AI가 만든 이미지가 너무 퀄리티가 낮아 실무에 활용하기 어렵기도 했고, AI 번역은 퀄리티가 낮아서 따로 본문을 다시 봐야 했으며, AI가 생성하는 글은 말이 안 되는 내용으로 구성되어 있었다. 하지만 이제는 사진전에서 AI가 생성한 이미지가 우승을 하고, 영화 ‘Her’에 나오는 인공지능 비서처럼 AI와 사람이 자연스럽게 대화도 할 수 있게 됐다. 즉, ‘AI가 생성한 글, 음성, 사진, 동영상이 사람이 생성한 것과 구분하기 어렵게 된’상황으로 인해 AI가 만드는 허위 정보가 사회적 문제가 될 수 있었다.

2) 책임지지 않는 AI, 시키는 대로 확률에 ...