Ask Me Anything

라이뷰

Ask Me Anything

AI가 인류를 멸종시킬 수 있다는데 정말인가요?

alookso 유두호



오픈AI CEO 샘 올트먼이 해고되고 5일만에 다시 복귀하는 극적인 사건이 지난 한 달 전에 일어났습니다. 이 사건을 두고 여러 추측과 루머가 떠돌았는데요. 가장 주목을 받았던 것은 이사회와 샘 올트먼이 AI의 안전성을 두고 속도 조절에 대한 이견이 있었다는 주장입니다. 

안전한 AI를 개발하기 위해 개발 속도가 더디더라도 제동을 걸어야 한다는 이사회의 입장과 AI를 빠르게 발전시켜 다양한 곳에 사업화하고 널리 보급하여 인류에 이롭게 사용하면 된다는 샘 올트먼의 입장이 부딪혔다는 것입니다. 

그렇다면 전문가의 입장은 어떨까요? 이경전 교수님은 올트먼의 입장에 동의하십니다. AI에 대한 막연한 두려움과 공포보다는 AI를 사용할 때 생길 수 있는 부작용을 해결하는 데에 집중하고, 어떻게 하면 AI를 잘 사용할 수 있을지 준비해야 하는 시기라고 강조하셨습니다. 

얼룩소에 오픈AI 사건에서 꼭 해야 할 질문 - 샘 올트먼은 미래에서 온 AI의 파견자인가를 연재했던 플랫폼 9와 3/4의 임수정 이사가 이경전 교수님을 만나 인터뷰했습니다. 
🙋 교수님께서는 이번 오픈AI와 샘 올트먼의 해임, 복귀 사건을 어떻게 보고 계시나요?

이 사건에 대해서는 대략 3가지 관점이 있습니다. 가장 일반적인 시각은 '안전과 자본의 대결에서 자본이 이겼다'라는 관점이고요. 그런데 저는 올트먼의 복귀가 자본의 힘으로 이뤄졌다고는 보지 않아요. 오픈AI 직원들이 반발한 것이 자본의 힘일까요? 지금까지 만들어온 AI가 무너지는 것에 대한 자연스러운 반응이 아니었을까요. 
두 번째 시각은 올트먼을 해고한 이사회가 대부분 EA(Effective Altruism, 효과적인 이타주의)에 과도하게 심취해 비이성적인 의사결정(일탈)을 했다는 것이에요. 사실 샘 올트먼 자신도 EA예요. 하지만 경영을 하다 보니 EA 이념과 어긋나는 부분이 생기고, 그것 때문에 축출됐다는 것이죠. 
세 번째 설명은 오픈AI의 독주를 막기 위해서라는 시각이 있어요. 일반인들은 잘 모르실텐데, 올트먼이 해임되기 약 일주일 전에 엄청나게 큰 사건이 있었어요. 엄청난 성능의 GPTs와 GPT-4 터보가 나온거예요. AI업계에서는 다른 AI스타트업 다 죽는다는 패닉의 목소리가 들려왔죠. 또 오픈AI 이사회에는 쿼라라는 회사(네이버 지식인과 비슷한) CEO 애덤 디앤젤로가 있어는데, 오픈AI가 발표한 새 모델이 자기 사업에 타격을 줘서 자른 것이 아니냐 하는 의심을 받기도 했죠. 물론 실제 내막은 알 수 없어요. 하지만 하나의 사건을 두고도 각자의 진실은 다를 수 있듯이, 각 이해당사자 또는 전문가들도 다양한 시각으로 이 사건을 바라보고 있다는 점을 알면 좋겠어요. 

🙋 AI 성능에 대해 듣다 보면 막연한 두려움과 공포도 생기는 것 같아요. AI가 스스로 학습하고 발전하다 보면 인간보다 뛰어나 인간의 통제를 벗어날 수도 있다는 얘기도 들립니다. 실제 AI가 인류를 멸종시킬 수도 있다고 경고하는 저명한 과학자들도 있고요. 교수님은 어떻게 생각하세요?

AI라는 건 일단 컴퓨터 프로그램일 뿐이에요. 제가 공부한 AI는 그냥 기계 그 이상도 이하도 아니고 그런 AI가 의식을 갖는다는 건 상식적으로 말이 안되는 거죠. 물론 제가 모르는 것도 있겠죠. 하지만 우리가 가진 과학적 지식과 이해로는 그런 AI는 설명할 수 없고, 알 수가 없어요. 어떤 사건이 일어났을 때 비관적인 전망이 좀 더 사람들의 주목을 받듯이, ‘아무 일도 일어나지 않는다’라는 주장은 대부분 관심을 갖지 않아요. 비관적인 전망을 할거면 과학적인 설명과 근거가 있어야 하는데 못하죠. 설명할 수가 없어요. 

🙋 AI 개발은 오픈AI뿐만 아니라 구글, 엔트로픽 등 수많은 테크 기업들이 뛰어들어 노력하고 있는데 오픈AI가 독보적으로 빠르게 치고 나가는 이유는 무엇일까요?

한마디로 정리하면 카니발리제이션때문이에요. 코닥이 유명한 예죠. 디지털카메라 특허를 제일 먼저 발명하고 많이 가진 곳이 코닥이에요. 옛날에는 필름 가게가 지금 편의점 수준으로 많았어요. 코닥은 디카를 만들었지만 필름 카메라를 대체할 수 있기 때문에 제대로 비즈니스를 못 하는 거예요. 저는 구글이 지금 비슷한 상황이라고 봐요. 이번에 구글에서 제미나이를 내놓았지만, 상태가 별로 좋지 않잖아요? 물론 두고 봐야겠죠. 누군가 오픈AI의 독주를 저지할 수 있다면 구글보다는 또 다른 스타트업일 가능성이 크다고 생각해요. 

🙋 우리나라 AI 경쟁력은 얼마나 될까요?

사실은 조금 걱정됩니다. 오픈AI와 격차가 상당히 벌어지고 있어요. 네이버는 AI 주권론을 주장하지만 결국 네이버도 카니발리제이션 이슈가 있죠. 저는 차라리 하이퍼클로바x를 분사해야 한다고 생각해요. 네이버에서 떨어져 나와야 하는거죠. 네이버가 삼성SDS의 사내 벤처기업에서 시작했듯이 말이죠. 
🙋 교수님이 생각하시는 AI 부작용은 무엇인가요?

AI에 너무 많이 의존하게 되는 것이죠. AI를 맹신하면 안돼요. 사용법에 대한 논의가 필요하고요. 이미 잘 알려진 할루시네이션 문제는 아직 해결되지 않았어요. 가짜 뉴스 문제도 그렇고요. 결국 AI는 사람이 쓰는 것이기 때문에 악의적으로, 잘못 사용될 경우도 있죠. 앞으로는 AI를 쓰면서 생길 수 있는 이런 문제점을 해결하는 데에 더욱 집중해야 해요. 

🙋 AI를 어떻게 사용해야 하는지 합의가 이뤄지는 과정에서 자연스럽게 규제도 필요할 것 같은데요. 혹시 규제와 관련해서는 어떤 얘기들이 오갔고, 또 어느 수준까지 규제하고 있나요?

지난 11월 초에 영국에서 열린 제1차 AI 안정성 정상회의가 있었죠. 이때 중국이 참여해 고무적이라는 평가가 있어요. 최근에는 EU가 AI 법안을 만들고 있습니다. 저작권과 개인의 프라이버시를 지키도록 AI를 규제하는 것이에요. AI가 인간의 고유 가치를 훼손하지 못하도록 만들자는 얘기입니다. 저는 여기서 끝나지 않고 AI를 개발할 때 개인의 데이터를 거래하지 않고도 성능을 높일 방법이 무엇인지 연구하고 있어요. 참고로 우리나라 법에는 우리나라에는 지능정보화 기본법이 있는데, 거기에 '킬 스위치'가 들어가 있어요. 비상정지 버튼이라고 보시면 됩니다. 굉장히 강력하죠. 

🙋 우리는 앞으로 AI시대를 어떻게 준비해야 할까요?

교육을 못 받으면 그만큼 격차가 난다는 것은 명확해요. AI는 쓰는 사람만 잘 쓰고 안 쓰는 사람은 점차 생산성이 떨어질거에요. 서울에서 부산까지 간다고 했을 때, 기술이 없던 때에는 걸어서 갈 수밖에 없겠죠. 하지만 모빌리티의 발전으로 이제는 버스를 타고 갈 수도 있고 비행기를 타고 갈 수도 있어요. 생산성과 효율이 엄청나게 좋아지는 건데 굳이 걸어서 갈 이유가 있나요?  AI는 굉장히 유용하고 효율적인 도구에요. 잘만 사용한다면 생산성이 미친 듯이 좋아져요. 앞으로 많은 사람들이 AI를 열심히 공부하고 현실의 문제를 해결하는 데 사용하기를 바랍니다. 



2023년 12월 16일(토)부터 12월 18일(월요일) 23시 59분까지, 
인공지능에 관련해 궁금한 것을 질문해 주세요. 
매일 좋은 질문을 한 질문자를 3명을 선정해 포인트 5000을 드립니다.
발표는 12월 18일, 19일 오전 9시에 발표합니다.

1
팔로워 9
팔로잉 1
418
팔로워 2.9K
팔로잉 0