By 티파니 수(Tiffany Hsu), 스튜어트 A. 톰슨(Stuart A. Thompson) 연구원들은 ChatGPT를 이용하여 잘못된 사실관계와 음모론을 퍼뜨릴 수 있는 깔끔하고 설득력 있는 텍스트를 생성해냈다.
Alamy / 뉴욕타임스
지난해 ChatGPT가 출시된 이후, 연구자들은 바로 음모론과 거짓 서술로 가득 찬 질문을 받을 경우 인공지능 챗봇이 어떻게 답할지 실험했다.
기사와 에세이, TV 대본 등의 형식으로 서술된 결과가 너무 골치 아파서 연구원들은 어떤 말도 할 수 없었다.
온라인상의 허위 정보를 추적하며 지난달 실험을 실시한 뉴스가드(NewGuard) 공동대표 고든 크로비츠는 “인터넷상의 어떤 도구보다도 부정확한 정보를 강력하게 퍼뜨리는 도구가 될 것”이라고 말하며, “거짓말을 지어내는 건 이제 드라마틱하게 큰 규모로 빈번하게 이뤄질 수 있다. 마치 허위정보 생산을 위한 AI 요원이 생긴 것이나 마찬가지”라고 덧붙였다.
허위 정보는 사람이 만들 경우 다투기가 복잡하다. 연구원들은 생성 기술 덕분에 허위 정보가 이전보다 더 많이, 더 쉽게, 그리고 저렴하게 생산될 수 있게 될 것이라고 예측한다.
.jpg)