AI의 개인화, 어디까지 허용할 것인가? by ESC

AI의 개인화, 어디까지 허용할 것인가?

ESC · 변화를 꿈꾸는 과학기술인 네트워크

2023/07/12

본 글은 ESC에서 사회적협동조합 빠띠에서 운영하는 캠페인즈에 기고한 글로 동시 개재 허락을 받고 숲사이에도 함께 공유합니다. 원글 출처 링크

작성자: 김서경 (페블러스 UX 리서치 리드 , ESC 회원)

지난 2022년 겨울, 혜성처럼 등장한 챗GPT로 인해 전세계는 AI 열풍에 휩싸였다. 간단한 홍보문이나 이메일 작성은 물론이요, 코드를 짜거나 원하는 화풍으로 그림을 그리거나 사진의 배경을 보정하는 것 역시 몇 마디 입력만으로 손쉽게 가능한 세상이 성큼 다가왔다.

정부와 대기업과 수많은 스타트업이 갑자기 나타난 이 멋진 도구에 혈안이 된 가운데, 인류는 고민에 빠졌다. AI가 정말 인류를 찜쪄먹을 막강한 지능에 이르는 게 시간 문제라면, 지금이 고삐를 잡을 골든타임이 아닐까? AI가 악용되거나 남용되거나 피해를 끼치지 않도록 제어하는 동시에 그 혜택을 온전히 누릴 방법은 없는 걸까?

이 글에서는 그러한 고민들 중 한 가닥인 AI의 개인화(Personalization)에 대해 논한다. 개인화란 무엇이며 어떤 사례가 있는지 먼저 설명한 후, 예상 가능한 문제와 그 문제를 바라봐야 할 윤리적 관점에 대해 소개한 후 끝을 맺는다.

개인화란 무엇인가
개인화의 정의란, “개별 고객 혹은 고객 집단의 요구 사항을 수용하기 위해 (관심사나 구매 이력을 바탕으로) 서비스 또는 제품을 고객에게 맞추어 조정하는 것을 말한다.”[1] 보다 널리 쓰이는 “맞춤추천”이라는 용어를 떠올리면 금방 와닿을 것이다.

개인화의 사례
개인화는 생각보다 우리 일상에 깊게 스며들어 있다. 한 예로 운동화를 사기 위해 검색을 하다가 알림이 와서 SNS를 켰는데, 화면이 온통 방금 전에 보던 운동화로 도배되는 경험을 해보지 않은 사람은 없을 것이다. 이커머스 플랫폼에서 생필품을 구매하면 자동으로 유사한 생필품이 추천된다든가, 음악 서비스에 가입하는 과정에서 취향에 맞는 음악 장르를...