2021/10/05
AI 전문가도 아니고, 지식도 짧은 상황에서 댓글을 쓰자니 부끄럽네요. 그렇지만 한 개인의 의견이니까요! 잘못쓴 내용이나 개념은 지적해주시면 배워가려고 합니다. :-)
AI의 형태와 쓰임, 그리고 AI 개발자의 가치관에 따라 다 다르게 대답할 수 있는 내용이라, 아래 대답에 앞서 저의 관점을 하나 적고, 대답을 해보겠습니다.
AI는 데이터를 학습하고, 이를 통해 모델을 수정하는 수 많은 머신/휴리스틱한 과정으로 만들어진다고 알고 있습니다. (AI와 머신 러닝/딥러닝이 같은 개념이 아니지만, 글을 적다보면 무의식적으로 혼합해서 사용하고 있을 것 같습니다만) 오늘의 내가 내일의 나와 완전히 같다고 볼 수 없는 것 처럼 사람을 닮은 AI라면 계속적인 학습과 이를 통한 변화/개선 (혹은 퇴보까지) 있어야 합니다.
사람도 편향이 있습니다. 데이터도 편향이 있고, 학습 프로세스에도 편향이 있으며 (혹은 AI 스스로가 편향을 만들기도 하고요), 따라서 이를 학습한 AI도 일종의 편향을 갖게 되겠죠. '편향이 있는 - ex. 인종에 대한 호불호, 정당에 대한 호불호, 무서움과 두려움에 관련한 취향, 트라우마와 유사하게 특정 이벤트에 대...
AI의 형태와 쓰임, 그리고 AI 개발자의 가치관에 따라 다 다르게 대답할 수 있는 내용이라, 아래 대답에 앞서 저의 관점을 하나 적고, 대답을 해보겠습니다.
AI는 데이터를 학습하고, 이를 통해 모델을 수정하는 수 많은 머신/휴리스틱한 과정으로 만들어진다고 알고 있습니다. (AI와 머신 러닝/딥러닝이 같은 개념이 아니지만, 글을 적다보면 무의식적으로 혼합해서 사용하고 있을 것 같습니다만) 오늘의 내가 내일의 나와 완전히 같다고 볼 수 없는 것 처럼 사람을 닮은 AI라면 계속적인 학습과 이를 통한 변화/개선 (혹은 퇴보까지) 있어야 합니다.
사람도 편향이 있습니다. 데이터도 편향이 있고, 학습 프로세스에도 편향이 있으며 (혹은 AI 스스로가 편향을 만들기도 하고요), 따라서 이를 학습한 AI도 일종의 편향을 갖게 되겠죠. '편향이 있는 - ex. 인종에 대한 호불호, 정당에 대한 호불호, 무서움과 두려움에 관련한 취향, 트라우마와 유사하게 특정 이벤트에 대...
1. 소비자적 관점에서 일반론적으로 '하자'가 있는 제품을 소비자가 같이 '키워야 한다'는 것은 조금 납득하긴 어렵습니다. 굳이 AI 서비스 제품에 있어서 보다 '여유로운' 태도를 취해야할 이유를 부연해주시면 감사하겠습니다.
2. 이루다의 재료는 연인들의 카톡데이터입니다. 피해자 중에는 10대도 꽤 포함된 것으로 압니다. (제가 인용한 기사에 충분히 나와있습니다만) 따님, 그리고 따님과 교제를 하고 있는 분과의 카톡이 AI 재료도 쓰여도 된다는 말씀이실까요? 따님의 프라이버시권에 대해선 어떻게 생각하시는지 상당히 궁금합니다.
3. "데이터의 편향은 다양성으로 해결해야겠지만, AI 편향이 문제라고는 생각하지 않습니다"는 문장은 데이터의 편향을 문제라고 보시는 듯 한데, 또 AI 편향은 문제라고 생각하지 않으신다고 하니 무슨 말인지 잘 모르겠습니다.
1. 소비자적 관점에서 일반론적으로 '하자'가 있는 제품을 소비자가 같이 '키워야 한다'는 것은 조금 납득하긴 어렵습니다. 굳이 AI 서비스 제품에 있어서 보다 '여유로운' 태도를 취해야할 이유를 부연해주시면 감사하겠습니다.
2. 이루다의 재료는 연인들의 카톡데이터입니다. 피해자 중에는 10대도 꽤 포함된 것으로 압니다. (제가 인용한 기사에 충분히 나와있습니다만) 따님, 그리고 따님과 교제를 하고 있는 분과의 카톡이 AI 재료도 쓰여도 된다는 말씀이실까요? 따님의 프라이버시권에 대해선 어떻게 생각하시는지 상당히 궁금합니다.
3. "데이터의 편향은 다양성으로 해결해야겠지만, AI 편향이 문제라고는 생각하지 않습니다"는 문장은 데이터의 편향을 문제라고 보시는 듯 한데, 또 AI 편향은 문제라고 생각하지 않으신다고 하니 무슨 말인지 잘 모르겠습니다.