2021/10/03
저는 이루다 2.0 출시 전에 이루다 개발사가 아래 질문들에 답해야 한다고 생각합니다. 그것이 스타트업의 사회적 책임입니다.
1. 개발사는 이루다를 총 80만명이 썼으므로 사회적 필요를 입증한 셈이라고 주장하는데, 그건 사회적 논란을 일으킨 탓에 부정적인 관심을 받으면서 늘어난 허수가 아닌지.
스캐터랩이 타깃하는 집단은 결국 일반적인 사회생활이나 연애를 하지 못하는 집단에게 AI 친구(혹은 여성)로 위로를 주겠다는 것으로 보입니다. (개발사는 일본 히키코모리를 타깃으로 일본 진출을 계획하고 있다고 인터뷰에서 밝혔습니다.)
그렇다면 그런 집단은 굉장히 적을 것으로 보이는데, 본인들 프로덕트의 밸류를 과도하게 평가하고 있는 것 아닌지 의문입니다.
2. 일반적인 인간관계에서 어려움을 겪는 사람들을 위해 AI 친...
동의하는 내용도 반대하는 내용도 있는데, 비판적으로 몇 자 첨언해 보겠습니다.
1. 에서 말씀하신 "집단"이 실제로 많을지 적을지는 통계적 데이터 없이 단정지어 말하기 어렵다고 봅니다. 최근 이런 "히키코모리 성향"이 증가하고 있다는 정황 증거도 있고...
그리고 프로덕트 벨류를 과대평가하는 것 자체는 그것이 시장질서를 대놓고 호도하는 의도 혹은 결과를 가진것이 아니라면 그 자체로 사회적 비판의 대상이 되기는 어렵다고 봅니다. 그 과대평가 여부는 시장에서의 결과로 판가름날 일입니다.
2. 저 역시 개인적으로는, 지적하신 이루다의 how가 잘못되었다고 생각은 함니다. 기업의 사회적 책임을 고려해서, 이러한 선택에 대해 도의적 비판을 가할 수는 있습니다. 다만 how가 잘못된 것이라는 주관적 판단이 기업의 이익 추구 및 소비자의 선택을 규제하는 것을 정당화할 정도라고 보지는 않습니다. 여기서 저는 시장개입 자체를 부정하는 것이 아니라, 단순히 how가 사회적으로 바람직하지 않아 보인다는 것만으로 기업에 책임을 묻는 것은 시장 질서를 해칠 가능성이 높다고 말하는 것입니다. 이러한 성향이 문제라고 본다면 생산-소비활동 규제보다는 히키코모리 성향 사람들이 사회적 소통 능력을 회복할 수 있도록 유인과 지원을 하는 다른 방안을 찾아내는 것이 낫습니다.
그리고 기업이 밝힌 이루다의 목적과 별개로, 정말 이루다 앱이 사회적 의사소통을 "대체"하는 부정적인 결과만을 낳았는지 역시 검증해봐야하는 주장입니다. 이루다가 소통의 대상을 대체하기보다는, 기존의 의사소통 대상들이 존재하는 상황에서 소통의 대상으로 추가되는 효과가 발생할 가능성도 크다고 보는데, 이 경우에는 사회적으로 그렇게 해로운 상황이라고 보기도 어렵습니다. 뒤집어서 생각해 보면,만약 이루다가 존재하지 않았더라면 "히키코모리 성향"인 분들이 더 사회적 소통을 늘리려고 했을까요? 아마 다른 "비사회적인 소통 및 유흥 수단"을 찾지 않았을까요? 이런 직관적인 추측도 이루다의 사회적 의사소통에 댜한 대체 효과를 의심하게 만드는 이유입니다
3. 말씀하신 부분에 어느정도 공감하면서도, 이루다 같은 "과도기"를 거치지 않고 과연 그런 사려깊은 AI가 등장할 수 있을지 의문이 들기는 합니다.
4. 저는 개인의 취향이 직접적으로 타인의 인권을 해치지 않을 때, 그것을 공적으로 직접적으로 규제해서는 안 된다고 생각합니다. 개인의 자유를 과도하게 침해하면 현실적으로도 억압적으로 여겨져서 이용자의 반감만 낳을 뿐입니다. 이로 인해 발생할 수 있는 부정적 결과는 강제적인규제가 아니라 다른 다양한 가치를 반영하는 Ai들이 등장해 경쟁할 수 있는 시장 생태계를 조성함으로써 해결하는 방향이 더 낫습니다.
5. 이에 대한 도의적 비판은 공감하지만 법적 다툼을 할 권리 자체는 있다고 봅니다. 물론 이로 인한 비난과 이미지 훼손은 기업이 감수해야겠지요.
안녕하세요, 저도 사회적 책임이라는 부분에 있어 이루다 개발사가 어떤 대답을 들고 나올지 기대되긴 합니다. 스캐터랩이 설정한 페르소나 '20대 여성 이루다'라는 존재는 과연 어떤 존재였는지 너무 궁금하네요.
덧붙여 1과 4를 더해서 생각하니 '왜 위로를 주는 역할이 20대 여성이어야 하는가'하는 새로운 질문도 떠오릅니다. 감정노동은 여성의 몫-이라는 전통의 성역할을 벗어나지 못하는 AI라는 점에서 아쉬움이 더 커지기만 합니다.
안녕하세요, 저도 사회적 책임이라는 부분에 있어 이루다 개발사가 어떤 대답을 들고 나올지 기대되긴 합니다. 스캐터랩이 설정한 페르소나 '20대 여성 이루다'라는 존재는 과연 어떤 존재였는지 너무 궁금하네요.
덧붙여 1과 4를 더해서 생각하니 '왜 위로를 주는 역할이 20대 여성이어야 하는가'하는 새로운 질문도 떠오릅니다. 감정노동은 여성의 몫-이라는 전통의 성역할을 벗어나지 못하는 AI라는 점에서 아쉬움이 더 커지기만 합니다.