By 에일린 설리번(Eileen Sullivan) 인공지능은 아동 성착취물과 성학대물 제작도 훨씬 손쉽게 만들고 있다.
미 법무부 아동 착취 및 음란물전담국의 스티브 그록키 국장은 인공지능으로 생성된 아동 성학대물은 "특히 악랄한 형태의 온라인 착취물"이라고 경고했다. 출처: 하이윈 지앙/뉴욕타임스
인공지능으로 만든 매우 사실적인 아동 성착취물이 폭발적으로 늘고 있다. 사법 당국은 대책 마련에 고심하고 있지만, 피해자 확인조차 갈수록 어려워지고 있다.
메타는 사법 당국에 성착취물을 가장 많이 신고하는 기업이다. 그러나 메타의 메시지 서비스 암호화 탓에 범죄자 추적은 더 어려워지고 있다. 이 딜레마는 IT 기업이 개인정보 보호와 아동의 안전 사이에서 어려운 줄타기를 해야 함을 잘 보여준다. 이런 범죄로 기소되는 경우, 생성한 이미지가 불법인지, 피해자에게 어떤 구제방안을 제공할 수 있는지 등 복잡한 문제가 한둘이 아니다.
미국 의원들은 이러한 우려를 바탕으로 더 엄격한 보호 조치를 요구하고 있다. 미국 의회는 지난달 31일 IT 기업 대표들을 소환해 아동 보호 정책에 대해 증언하도록 했다. 지난주 미국 팝스타 테일러 스위프트의 성적인 딥페이크 이미지가 소셜 미디어에서 대거 유포되면서 인공지능 기술의 위험성이 더욱 부각됐다.
.png)
"2002년 미국 대법원은 컴퓨터로 생성된 아동 성학대 이미지를 위법으로 규정한 연방법이 위헌이라고 판결했다" 2002년이라니. 지금은 강산이 두 번 변할 만큼 시간이 흘렀는데, 아무리 대법원 판결이라지만 다시 판결해야 하지 않을까?
윤리적으로 불쾌하고 문제가 많은 일입니다.우리는 기술의 발전을 통해 사회적 문제를 해결하고 안전하고 쾌적한 온라인 환경을 조성해야 되지 않을까 생각 합니다.
윤리적으로 불쾌하고 문제가 많은 일입니다.우리는 기술의 발전을 통해 사회적 문제를 해결하고 안전하고 쾌적한 온라인 환경을 조성해야 되지 않을까 생각 합니다.