2021/10/04
저는 이루다가 한창 인기를 끌면서 동시에 논란을 일으키고 다닐 즈음에, 한 권의 책이 생각났습니다.
사피야 우모자 노블(Safiya Umoja Noble) 교수의 <구글은 어떻게 여성을 차별하는가>(Algorithms of Oppression, 2019)인데요, 영어 원제에서도 드러나듯 억압과 편견이 드러나는 양상을 이야기하고 있습니다.
저자가 디지털 미디어 플랫폼의 사회적 영향을 연구하게 된 데에는 충격적인 경험에 기반을 두고 있습니다. 딸과 사촌 여자아이들이 좋아할 놀잇감을 찾기 위해 구글에 ‘흑인 소녀’라는 단어를 검색했더니, 검색 결과의 최상단에 노출된 것은 포르노그래피 사이트였던 것(구체적 이름은 책에 나와 있으나 굳이 적지 않겠습니다). 이 사건을 겪은 2010년 가을 이후, 이 문제를 연구하고 가르쳐왔다고 그는 밝히고 있습니다. 이 책은 그 결과물입니다.
노블 교수는 "정보는 문화적인 맥락 속에서 사용되기 때문에 정보가 교류되는 지점에서 동등한 자원을 배분토록 하는 조정과정이 있어야 한다"고 지적했는데, 결국 문제는 이것입니다. 정보를 다루는 과정에서 문제가 생겼을 때, 누구에게 묻고 누구에게 호소해야 하는가? 어떤 기관에 도움을 청하고 어떤 국가나 국제기구에 제기할 것인가? 여전히 풀리지 않은 숙제죠.
그런데 구글은 이후에도 계속 문제를 일으켰습니다. 구글의 사물 인식 프로그램인 구글 포토(Google Photo)라는 카메라 어플리케이션이 2015년 흑인 커플의 사진을 ‘고릴라’라는 카테고리로 분류하는 사건은...
사피야 우모자 노블(Safiya Umoja Noble) 교수의 <구글은 어떻게 여성을 차별하는가>(Algorithms of Oppression, 2019)인데요, 영어 원제에서도 드러나듯 억압과 편견이 드러나는 양상을 이야기하고 있습니다.
저자가 디지털 미디어 플랫폼의 사회적 영향을 연구하게 된 데에는 충격적인 경험에 기반을 두고 있습니다. 딸과 사촌 여자아이들이 좋아할 놀잇감을 찾기 위해 구글에 ‘흑인 소녀’라는 단어를 검색했더니, 검색 결과의 최상단에 노출된 것은 포르노그래피 사이트였던 것(구체적 이름은 책에 나와 있으나 굳이 적지 않겠습니다). 이 사건을 겪은 2010년 가을 이후, 이 문제를 연구하고 가르쳐왔다고 그는 밝히고 있습니다. 이 책은 그 결과물입니다.
노블 교수는 "정보는 문화적인 맥락 속에서 사용되기 때문에 정보가 교류되는 지점에서 동등한 자원을 배분토록 하는 조정과정이 있어야 한다"고 지적했는데, 결국 문제는 이것입니다. 정보를 다루는 과정에서 문제가 생겼을 때, 누구에게 묻고 누구에게 호소해야 하는가? 어떤 기관에 도움을 청하고 어떤 국가나 국제기구에 제기할 것인가? 여전히 풀리지 않은 숙제죠.
그런데 구글은 이후에도 계속 문제를 일으켰습니다. 구글의 사물 인식 프로그램인 구글 포토(Google Photo)라는 카메라 어플리케이션이 2015년 흑인 커플의 사진을 ‘고릴라’라는 카테고리로 분류하는 사건은...
5년차 오마이뉴스 시민기자고, 다양한 이슈에 대한 글을 씁니다. 청년정책 및 거버넌스 관련해서 활동하는 활동가이기도 하고요, 정당에도 몸담고 있는 중이에요.
instagram @minjun7682
좋은 책 추천 감사합니다. 개인적으로 저도 '인간의 편견을 학습하는 알고리즘'보다는 '개인정보를 함부로 다룬 개발사'에 대한 분노가 큰 편입니다.
저도 비슷하게 생각했습니다. 특히 취소된 아마존 채용 알고리즘처럼 애초에 사회가 편향되있는 상황입니다. 그런 사회에 대한 논의없이 '기술은 중립적이다'라고만 하면서 도입하는 것은 무비판적인 것이 아닌가 싶어 걱정이 됩니다. 곡괭이도 쟁기도 사람을 죽일 수 있습니다. 그러니 사용에 앞서 올바른 사용법을 논의하고 명시해야하지 않을까라는 생각이 듭니다.
저도 비슷하게 생각했습니다. 특히 취소된 아마존 채용 알고리즘처럼 애초에 사회가 편향되있는 상황입니다. 그런 사회에 대한 논의없이 '기술은 중립적이다'라고만 하면서 도입하는 것은 무비판적인 것이 아닌가 싶어 걱정이 됩니다. 곡괭이도 쟁기도 사람을 죽일 수 있습니다. 그러니 사용에 앞서 올바른 사용법을 논의하고 명시해야하지 않을까라는 생각이 듭니다.