저는 앞서 AI의 위험성에 대한 글을 올렸습니다.
오늘은 그래서 정확히 어떤 점 때문에 위험한 것인지, 어떤 위기가 초래될 수 있는지에 대해 짚어보고자 합니다.
정보의 오류
ChatGPT로 대표되는 LLM(대형언어모델)의 정확도는 갈수록 높아지고 있습니다. 하지만 역설적이게도 높은 정확도가 독이 될 수 있습니다.정확도가 높으면 신뢰도가 상승하고, 신뢰도가 상승하면 검증에 소홀해지기 때문입니다.
잘 알다시피 AI가 내놓는 답변은 기존의 '사람'들이 작성한 정보를 학습하여 내놓은 답변입니다. 그러나 이렇게 학습된 정보가 100% 정확하다는 근거는 없으며, 학습 과정에서 불필요한 선입견이 생길 수 있습니다. 만약 정확한 내용을 학습했더라도 답변을 생성하는 과정에서 오류가 발생할 수도 있습니다.
특히 근거가 부족하더라도 그럴싸하게 포장하여 답변하기 때문에 정보의 오류에 대한 검증은 더욱 어렵습니다.
텍스트도 위험하지만 생성형 AI 이미지는 더욱 위험합니다.
이미 실제 인물...