AI 스타트업은 과거로부터 무엇을 배울까?
2023/01/16
1.
렌사(Lensa)라는 앱이 있습니다. 셀카 보정 기능 등을 제공하는 사진 편집 앱으로, 2022년 12월 한 달 동안 1천만회 이상 다운로드를 기록하며 빠르게 앱스토어 상위권에 올랐습니다. 급격한 인기 상승의 배경에는 11월 말 유료로 런칭한 “매직 아바타” 기능이 있습니다. 생성AI 알고리즘을 이용해 사용자를 닮은 일러스트레이션을 생성해주는 기능입니다.
- 생성된 이미지가 여성의 신체를 나체로 표현하는 등 성적으로 대상화하며, 아시안 여성에 대해서는 그런 경향이 더 심한 것으로 보이는 인종주의적 사례
- 사용자 데이터의 무제한 상업적 이용을 서비스 측에 허락하는 이용약관
- 편향은 인터넷 데이터를 반영한 결과이며, 줄이기 위한 노력을 하고 있지만 놓치는 사례가 있을 수 있다
- 이용자의 사진은 AI 알고리즘 처리를 위해서만 사용되며, 아바타 제작 후 보관하지 않는다
2.
페이스앱(FaceApp)이라는 앱이 있습니다. 셀카 보정 기능 등을 제공하는 사진 편집 앱으로, 2017년에 런칭한 뒤 수 차례 바이럴한 인기를 끌며 앱스토어 상위권을 차지했습니다. 인기 상승에 일조한 것은 다양한 AI기반 필터 기능으로, 얼굴 사진을 웃는 표정으로 바꿔주거나 ‘매력적’으로 수정하는 기능, 노화 필터, 성별 바꾸기 등이 있습니다. AI 알고리즘을 이용해 사용자의 사진을 수정해주는 기능입니다.
페이스앱에 ...
꽤 오래전부터 관련 논의가 지속되고 있지만 가이드라인 나왔다는 이야기는 못 들은 것 같아요. @.@
가이드라인이 기술발전을 저해할 수 있기 때문일까요? 사람의 고정관념은 쉽게 바뀌지 않는다는 측면에서 편향된 데이터가 가져올 수 있는 바르지 못한 고정관념은 기술발전보다 낮게 취급되어도 괜찮은 것일까요?
ai의 편향성을 극복하려면 포괄적인 형태의 데이터를 수집 과정이 선행되어져야 할 것 같아요. 수집 범위의 제한과 의도적 방향성이 편향된 데이터를 생산한다고 봤을때요. 데이터 수집은 목적 기반으로 이루어지는 경우가 많다고 알고 있는데 (공공데이터는 좀 약하다고 알고 있습니다. 맞나요? 잘 모름…) 수익성에 관계없이 더 많은 비용을 들여 포괄적 데이터를 수집하고 배포할 사람들이 많을까요?
다른 쪽으로 생각해보면 사용자들이 ai에게 던지는 질문도 수집된다고 알고 있는데(아닌가요? 잘 모름…) 질문이 편향적인 결과를 유도할 수도 있을텐데 질문에 제한을 둘 수 있을까요? 과도한 제재라면 편향된 질문으로 편향된 결과를 유도하는 것은 자유일까요, 방임일까요?-?
데이터의 편향을 잡아내는 일은 보편적 AI를 위해 엄청나게 도전적이고 중요한 일이라고 생각합니다.
그런데 이 중요한 일에는 혁신적이라는 형용사가 뒤따르지 않습니다. 한마디로 AI의 달콤함에 빠진 사람들에게는 매력적이지 않은, 시간이 지나면 저절로 해결될 법한, 발목잡는 요소 정도의 이미지로 소비되죠. 실제로 AI관련 강연에서 윤리 부문은 조회수도 낮을 뿐더러 재미없고 쓸데없다는 등 비판적인 코멘트들이 많이 보여요...ㅠ
꽤 오래전부터 관련 논의가 지속되고 있지만 가이드라인 나왔다는 이야기는 못 들은 것 같아요. @.@
가이드라인이 기술발전을 저해할 수 있기 때문일까요? 사람의 고정관념은 쉽게 바뀌지 않는다는 측면에서 편향된 데이터가 가져올 수 있는 바르지 못한 고정관념은 기술발전보다 낮게 취급되어도 괜찮은 것일까요?
ai의 편향성을 극복하려면 포괄적인 형태의 데이터를 수집 과정이 선행되어져야 할 것 같아요. 수집 범위의 제한과 의도적 방향성이 편향된 데이터를 생산한다고 봤을때요. 데이터 수집은 목적 기반으로 이루어지는 경우가 많다고 알고 있는데 (공공데이터는 좀 약하다고 알고 있습니다. 맞나요? 잘 모름…) 수익성에 관계없이 더 많은 비용을 들여 포괄적 데이터를 수집하고 배포할 사람들이 많을까요?
다른 쪽으로 생각해보면 사용자들이 ai에게 던지는 질문도 수집된다고 알고 있는데(아닌가요? 잘 모름…) 질문이 편향적인 결과를 유도할 수도 있을텐데 질문에 제한을 둘 수 있을까요? 과도한 제재라면 편향된 질문으로 편향된 결과를 유도하는 것은 자유일까요, 방임일까요?-?
데이터의 편향을 잡아내는 일은 보편적 AI를 위해 엄청나게 도전적이고 중요한 일이라고 생각합니다.
그런데 이 중요한 일에는 혁신적이라는 형용사가 뒤따르지 않습니다. 한마디로 AI의 달콤함에 빠진 사람들에게는 매력적이지 않은, 시간이 지나면 저절로 해결될 법한, 발목잡는 요소 정도의 이미지로 소비되죠. 실제로 AI관련 강연에서 윤리 부문은 조회수도 낮을 뿐더러 재미없고 쓸데없다는 등 비판적인 코멘트들이 많이 보여요...ㅠ