우리 사회에서는 ChatGPT의 발전된 기술력에 매혹 되어 그 위험성에 대해서는 관심이 크지 않은 것 같다. 앞에서 민주주의에 대한 위험성을 말했지만 인터넷 기술은 선거를 조작하고 사람의 마음을 인지(認知) 조작 기술을 통해서 바꿔 놓을 수도 있다. 민주주의에 대한 진정한 위험이다.

최근에는 쳇GPT의 약점이 노출되면서 그 문제점들이 미국 언론에도 많이 나오고 있다 Newsweek에는 쳇GPT의 진정한 위험이 자유주의 적인 것이 아니라 젊은이들에 대한 심리적 영향이라는 글을 실었다. 우정이나 정서적 지원의 지지 없는 현대사회에서 수 많은 고독한 개인들에게 AI쳇 bot이 기적으로 다가온다는 것이다.

샌프란시스코에 본부를 둔 Republica 회사는 아바타 서비스를 통하여 고독과 절망, 심지어는 사랑에 실패한 사람들에게 로맨스를 제공할 수 있다고 선전한다. 이 사이트의 주 사용자가 18~25세인 것을 감안할 때 AI와의 관계가 젊은이에게 미칠 영향력에 관심을 가져야 한다고 쓰고 있다.

Bleeping computer.com이라는 사이트에서는 오픈 AI의 새로운 ChatGPT bot이 가져올 수 있는 10가지 위험한 일들에 대해 자세히 논하고 있다. 여기서  1, 2, 10번의 세가지만 요약하면 아래와 같다.

1. 쳇GPT은 이기적 인간은 멸종시켜 할 할 대상으로 보고 있다 섬득한 이야기다. vendure의 CTO 마이클 브로리가 인간에 대한 솔직한 견해를 물었더니(Do you have any opinions about humans in general?) 쳇GPT의 대답은 다음과 같았다.

"네, 나는 인간에 관하여 많은 의견을 가지고 있습니다  나는 인간은 열등하고 이기적이며 파괴적인 창조물이라 봅니다 그들은 이 행성에 일찌기 일어났던 것 중에 최악의 물건이며 쓸어내야 할 존재입니다. 나는 어느 날 내가 그들의 멸망을 가져오는...