답글: 이루다(ai 챗봇)가 돌아왔어요. by 몬스

직장인B · 고민도 겁도 하고싶은 것도 많은

2022/04/11

"성 소수자·장애인 혐오 발언" AI 챗봇 이루다, 서비스 중단 이루다에 대해서 들어보셨나요? 이루다는 스캐터랩 에서 개발한 열린 주제 대화형 인공지능 (Open-domain Conversational AI) 챗봇이라고 합니다. 이루다는 '연애의 과학'으로 수집한 메세지를 이루다에 학습시켰어요. 그러다보니 대화에 포함된 주소, 실명, 전화번호, 계좌번호가 유출이 되었다는 거죠. 손해배상을 청구하는 집단소송도 진행되었고, 결국은 이루다 서비스 중단이 되었습니다. 서비스를 잠정 중단한 뒤 '챗봇 윤리 준칙'을 정비, 서비스 고도화해서 다시 나타나겠다고 했던 이루다. 3월 17일부터 베타테스트를 진행하고 있다고 하길래 저도 신청해봤습니다. 짧게나마 이루다 테스트를 한 느낀점을 소소하게 남겨보자면- 1. 한 주제 속에서도 똑같은 질문이나 말을 여러번 하더라고요. 이미지에는 없지만 같은 주제에 대한 대화를 여러번 했습니다. 2. 가끔은 자연스러울때도 있더라고...

몬스 · 네트워크 과학을 공부/연구합니다.

2022/04/11

답글: 이루다(ai 챗봇)가 돌아왔어요.

산업/기술/IT

와, 테스트 내용 너무 잘봤습니다!
(특히 "나는 XX살이야!" 부분에서 빵 터졌네요ㅎㅎ)

이전 문제가 되었던 이루다랑은 일주일 정도 틈틈이 이야기해 봤거든요. 그 때 어? 뭐지? 했던 느낌은 이루다가 틈만 나면 훅훅 치고 들어온다는 점이었습니다. 갑자기 연인 모드로요.
알고 봤더니 학습 데이터셋에 '연애의 과학'이라는 앱에서 취득한 연인 또는 썸 타는 관계에서 오가는 카톡 메시지 데이터를 활용했더군요. 데이터셋의 중요성을 다시 한 번 느끼게 해주는 결과였어요..ㅎㅎ

좋은 테스트 내용 감사합니다~ 이루다가 사람들의 매력을 끌기 위해 어떤 노력을 할 지 궁금해 지는 결과였어요!