저는 앞서 AI의 위험성에 대한 글을 올렸습니다.

오늘은 그래서 정확히 어떤 점 때문에 위험한 것인지, 어떤 위기가 초래될 수 있는지에 대해 짚어보고자 합니다. 

ChatGPT로 대표되는 LLM(대형언어모델)의 정확도는 갈수록 높아지고 있습니다. 

정확도가 높으면 신뢰도가 상승하고, 신뢰도가 상승하면 검증에 소홀해지기 때문입니다. 

잘 알다시피 AI가 내놓는 답변은 기존의 '사람'들이 작성한 정보를 학습하여 내놓은 답변입니다. 그러나 이렇게 학습된 정보가 100% 정확하다는 근거는 없으며, 학습 과정에서 불필요한 선입견이 생길 수 있습니다. 만약 정확한 내용을 학습했더라도 답변을 생성하는 과정에서 오류가 발생할 수도 있습니다. 

특히 근거가 부족하더라도 그럴싸하게 포장하여 답변하기 때문에 정보의 오류에 대한 검증은 더욱 어렵습니다.

텍스트도 위험하지만 생성형 AI 이미지는 더욱 위험합니다. 
이미 실제 인물을 기반으로 하는 가짜뉴스가 생성 중에 있고, 음란물도 쏟아져 나오고 있습니다. 

더불어, 학습 과정에서의 저작권 이슈에서도 자유롭지 못한 상황이고, 
생성된 이미지의 소유권도 명확하게 해결하지 못한 상황이라 많은 혼란을 야기할 수 있습니다.  

많은 분들이 우려하시는 부분일 것 같습니다. 

현재 각계각층에서 AI의 발...