인공지능, 성착취 영상에 날개를 달다 by 뉴욕타임스

인공지능, 성착취 영상에 날개를 달다

산업/기술/IT 생활/사건사고+4 언론/미디어+1

뉴욕타임스 · 독보적인 저널리즘

2024/02/02

By 에일린 설리번(Eileen Sullivan)

인공지능은 아동 성착취물과 성학대물 제작도 훨씬 손쉽게 만들고 있다.

미 법무부 아동 착취 및 음란물전담국의 스티브 그록키 국장은 인공지능으로 생성된 아동 성학대물은 "특히 악랄한 형태의 온라인 착취물"이라고 경고했다. 출처: 하이윈 지앙/뉴욕타임스

인공지능으로 만든 매우 사실적인 아동 성착취물이 폭발적으로 늘고 있다. 사법 당국은 대책 마련에 고심하고 있지만, 피해자 확인조차 갈수록 어려워지고 있다.

메타는 사법 당국에 성착취물을 가장 많이 신고하는 기업이다. 그러나 메타의 메시지 서비스 암호화 탓에 범죄자 추적은 더 어려워지고 있다. 이 딜레마는 IT 기업이 개인정보 보호와 아동의 안전 사이에서 어려운 줄타기를 해야 함을 잘 보여준다. 이런 범죄로 기소되는 경우, 생성한 이미지가 불법인지, 피해자에게 어떤 구제방안을 제공할 수 있는지 등 복잡한 문제가 한둘이 아니다.

미국 의원들은 이러한 우려를 바탕으로 더 엄격한 보호 조치를 요구하고 있다. 미국 의회는 지난달 31일 IT 기업 대표들을 소환해 아동 보호 정책에 대해 증언하도록 했다. 지난주 미국 팝스타 테일러 스위프트의 성적인 딥페이크 이미지가 소셜 미디어에서 대거 유포되면서 인공지능 기술의 위험성이 더욱 부각됐다.