한달간 써보니, AI와 ChatGPT는 미래전에서 가장 치명적 무기가 될 것이 거의 확실하다.

마치 스마트폰과 드론이 전쟁의 모습을 영원히 바꿔버린 것 처럼.

원래 ChatGPT와 국방, 밀리터리에 대한 글을 진작 썼었어야 하는데 늦어지는 사이에 얼룩소 레이스의 글감으로 되었다. 한 달 가까이 쓸려던 글의 일정이 밀려진것은 다름아닌 Chat GPT의 두 가지 결정적 문제점 때문이다. 2021년으로 DB가 제한되었고, 대답의 근거를 제시할수 없는 것이 가장 큰 문제였다.

Chat GPT가 직접적으로 사람을 죽이는 무기는 아니지만, 어떤 장비나 도구, 사람조차도 국방과 전쟁에 쓰이기 위해서는 신뢰성과 성능의 검증이 필요하다. 칼로 과일을 깎을 수 있는지, 아니면 생선도 회를 칠 수 있는지 검증이 불가능하면 군사적 활용도가 없기 때문이다. 

이 점에서 첫 등장할 ChatGPT는 그럴듯한 말을 지어내는 것으로 많은 사람들에게 놀라움을 가졌지만, ChatGPT는 답변의 신뢰성은 물론 과정에 대한 설명이 불가능한 ‘논리적 거짓말 생성기’에 가까웠다. 기존 ChatGPT는 모든 질문에 전문가 이상으로 논리적으로 답하지만, 질문에 대한 대답이 진짜 사실인지, 이것이 어느 확률이나 정확도로 진실과 거짓을 말하는지 프롬프트를 많이 연습해도 검증이 어려웠던 것이다.

2021년으로 제한된 ChatGPT의 DB도 문제였다. 군사와 국방 영역에서 2022년 이전과 이후는 우크라이나 전쟁 때문에 수 많은 군사적 상식이 파괴되고, 새로운 전술과 작전이 발굴되고, 무엇보다 수 많은 실제 전쟁의 데이터와 결과들이 웹에 적재된 것이 전혀 반영이 안되어 있으니, 답변의 수준과 내용, 논리를 구성하는 정보가 지금과 너무 동떨어져 있었기 때문이다.

기사보기

...