AI(artificial intelligence)의 자연선택 (?!) by 이영록

AI(artificial intelligence)의 자연선택 (?!)

이영록 · Dilettante in life

2023/04/04

페북을 돌다 보니 이런 링크가 보였다.

https://arxiv.org/pdf/2303.16200.pdf
제목; Natural Selection Favors AIs over Humans
저자; Dan Hendrycks(Center for AI Safety)

AI가 인간의 지능을 능가해 인간을 소외시킬까 염려하는 듯하다. 물론 생물이 아닌 AI가 '자연 선택'되지는 않는다. 아래 번역에서 보듯이 이것은 자연 선택과 비슷하게 '어떤 특징을 갖는 AI가 결국엔 대세가 될 것이다'는 비유이다.
당연하지만 비유는 비유로 받아들여야지 항상 사실과 같으리란 보증은 없다. 따라서 유사점과 차이점을 이해해야 한계를 이해할 수 있으며, 이 논문의 abstract와 introduction를 분석해 보았다. 다 하면 좋겠지만 전체가 43page나 돼서... ㅎㅎ

참고로 나는 대량의 영어 문장을 읽기 싫어하는지라 요즘 hot한 deepL(DeepL)로 번역하고 검토했다. 아직까지 내가 경험한 자동 번역 S/W 중에는 가장 낫다.

< abstract >

수십억 년 동안 진화는 인간을 포함한 생명체의 발전을 이끈 원동력이었습니다. 진화를 통해 인간은 높은 지능을 갖게 되었고, 그 덕분에 지구상에서 가장 성공적인 종 중 하나가 될 수 있었습니다. 오늘날 인간은 우리 자신의 지능을 능가하는 인공 지능 시스템을 만드는 것을 목표로 하고 있습니다. 인공지능(AI)이 진화하여 결국 모든 영역에서 인간을 능가하게 될 때, 진화가 인간과 인공지능의 관계를 어떻게 형성할까요? 진화를 형성하는 환경을 분석함으로써 가장 성공적인 AI agent는 바람직하지 않은 특성을 가질 가능성이 높다고 주장합니다. 기업과 군대 간의 경쟁 압력으로 인해 인간의 역할을 자동화하고, 다른 사람을 속이고, 권력을 획득하는 AI 에이전트가 등장할 것입니다. 이러한 에이전트가 인간을 능가하는 지능을 갖게 되면 인류는 미래에 대한 통제력을 상실할 수 있습니다.
좀 더 추상적으로, 자연 선택이 경...