실제로 너무 기사를 잘 만들어내서.... by 규니베타

뉴욕타임스 · 독보적인 저널리즘

2023/02/13

연구원들은 개인화된 실시간 챗봇이 허술한 구문이나 오역 등 인간의 오류를 제거하며, 단순한 복사-붙여넣기 작업 수준을 넘어 점점 더 그럴싸하고 설득력 있는 방법으로 음모론을 공유할 것이라고 말한다. 또한 이를 효과적으로 방지하기 위한 방안도 없다고 한다. 샌프란시스코의 인공지능 회사 오픈AI(OpenAI)에서 만든 ChatGPT의 전신 모델들은 온라인 포럼과 소셜 미디어 플랫폼에서 (종종 문법적으로 의심스러운) 댓글과 스팸을 퍼뜨리는 데 수년간 사용되었다. 마이크로소프트(MS)는 2016년에 트위터에서 테이(Tay) 챗봇을 도입한 지 24시간도 안되어 트롤들이 인종차별적이고 외국인 혐오적인 언어를 내뱉도록 가르친 후 활동을 중단해야 했다. ChatGPT는 훨씬 더 유능하고 정교하다. 허위 정보로 가득 찬 질문들이 제공되면 ChatGPT는 출처를 밝히지 않고도 설득력 있게 깔끔하게 변형해서 몇 초 만에 대량으로 생성할 수 있다. 2월 8일, MS와 오픈AI는 챗봇 기술을 ...

규니베타 · 얕고 넓은 지식 여행자

2023/02/13

실제로 너무 기사를 잘 만들어내서....

산업/기술/IT 생활/사건사고+5

AI 챗봇이 기사를 작성하고....

아주 일부분만 거짓말을 섞어서 편집해서 기사처럼 올리고 공유한다면

트위터같은곳에 빠르게 여러곳에 올리고 공유한다면 말이죠

생각보다 빠르게 가짜뉴스가 퍼질수 있다고 봐요

대부분은 진실인데 일부만 거짓말인 기사는 구별하기가 꽤 어려우니까요

팩트체커가 아니라면 그걸 구별하지 못하는 경우가 많을것 같네요

이른바 2%부족한 뉴스

2%만 거짓이 섞인 뉴스라면....

98%정도 믿음이 가는 뉴스라는 의미라서

어쩌면 누구라도 속아넘어갈수 있을것 같네요

악의적인 이용에 대해서.... 아직 아무 제한도 없는 상태니까 말이죠