김재경
김재경 인증된 계정

딥페이크 범죄, 텔레그램이 문제가 아니다

  2024년 8월, 한국 사회는 텔레그램을 통한 딥페이크 범죄의 확산으로 큰 충격에 빠졌다. 'N번방 사건’ 이후 또다시 텔레그램을 이용한 성범죄가 대규모로 발생하면서 국민들의 불안감이 고조되고 있다. 특히 이번 사건은 중·고등학생이 더 많은 비중으로 가담한 것으로 알려지며, 사회적 충격은 더욱 컸다. 피해자들의 얼굴과 개인 정보가 무단으로 합성된 음란물이 유포되었고, 이로 인해 사회적 논란이 확산되고 있다.  이러한 상황에서 텔레그램의 폐쇄와 여러 법적 대응이 논의되고 있지만, 과연 이러한 조치들이 딥페이크 범죄를 근본적으로 해결할 수 있을지 의문이다. 텔레그램은 결국 여러 가지 음란물 유통망 중 하나에 불과하기 때문이다.  텔레그램, 시민과 '범죄자' 모두에게 안전한 메신저 우선, N번방 사건부터 이번 딥페이크 범죄까지 왜 ‘텔레그램’이 화두에 오르게 됐는지 알아보자. 텔레그램은 강력한 보안성으로 유명한 메신저다. 특히 자체 개발한 MTProto 암호화 프로토콜...
노동/인권/사회 · 산업/기술/IT
김재경
김재경 인증된 계정

개천에서 용 안 나는 ‘부자’ 올림픽

 2024 파리 올림픽이 진행되고 있는 지금, 자연스럽게 사람들은 진행되는 경기와 선수들의 서사, 메달 순위에 주목하게 된다. 여자 양궁이 단체전 10연패 신화를 세우는 걸 보며 역시 한국은 활의 민족이구나 으쓱하기도 하고, 예능에서 ‘탁구 신동’ 소리를 듣던 신유빈의 도전에 박수를 보내기도 한다. 선수들의 피나는 노력에 감화되기도 하고, 높은 메달 순위를 보며 소위 ‘국뽕’이 차오르는 걸 대중은 쉽게 경험한다. 하지만, 이런 행복하고 멋진 올림픽의 이면에는, 경제력이 높은 국가가 대부분 올림픽 메달 순위 상위권을 차지하고 있다는 불편한 진실이 있다.  에어컨 없는 대표팀 숙소 vs 따로 빌린 200억 호텔 파리 올림픽은 ‘친환경 올림픽’을 표방하며 여러 시도를 하였는데, 이로 인해 선수단 숙소에 에어컨이 설치되지 않은 것은 유명하다. 종합적으로 열악한 숙소 환경으로 인해 오는 피해를 최소화하고자 한국 올림픽 대표 선수단은 따로 객실용 냉풍기를 설치하거나, 따로 경기장 인...
스포츠
2
김재경
김재경 인증된 계정

생성형 AI 잘 쓰는 법 (1) AI를 사람처럼 대해보세요.

이제 ChatGPT, Midjourney와 같은 생성형 AI는 많은 사람들이 일할 때 활용하는 유용하고 중요한 도구가 됐습니다. 저 역시 웹 데이터 수집 및 정리, 사회과학 연구를 위한 자료 조사 등 여러 업무에서 생성형AI를 활용하고 있는데요. 앞으로 여러 차례에 걸쳐 생성형AI를 사용한 경험과 잘 쓰는 방법에 대해 공유하고자 합니다. 생성형 AI도 사람이야 사람! 생성형 AI 잘 쓰는 법을 이야기하는데 왜 갑자기 ‘생성형 AI도 사람이야’라는 이야기가 나오는지 의아해하신 분들이 많을 겁니다. 하지만, 이 문장은 생성형 AI의 작동 원리부터 시작해서 잘 활용할 수 있는 방법까지 전부 한 줄로 요약한, 아주 중요한 문장입니다. 생성형 AI의 작동 원리는 무엇일까요? 생성형 AI는 기존 대규모 데이터를 학습하여 텍스트, 이미지, 오디오, 비디오 등을 확률적으로 생성합니다(Perplexity AI). 여기서 중요한 점은 기존에 학습한 데이터의 출처가 인터넷이고, 인터넷에...
산업/기술/IT
김재경
김재경 인증된 계정

AI로 구글 확장 프로그램(extension) 만들기 - 뉴스 스크랩을 도와주는 '캠페인즈 웹 스크래퍼'

제가 활동하고 있는 캠페인즈에서는 '뉴스'탭에서 서로 뉴스를 공유하고, 읽고, 의견을 나눌 수 있습니다. 평소 인터넷 뉴스 덧글의 흉포함에 지친 분들이 안전하게 자신의 의견을 나눌 수 있는 곳이며, 뿐만 아니라 각자 다른 사람에게 공유하고 싶은 뉴스를 가져오기 때문에 좋은 뉴스가 정말 많이 올라옵니다. 저 역시 가끔 캠페인즈에 들어와 뉴스를 보고, 직접 뉴스도 공유하는데요. 그렇게 뉴스를 캠페인즈에 업로드하던 어느 날, 이런 생각이 들었습니다. '이전에 소개했던 Notion web clipper'처럼, 캠페인즈 뉴스도 사람들이 쉽게 공유하면 더 많은 뉴스가 캠페인즈에 올라올 수 있지 않을까?' 이미 좋은 공간인데, 사람들이 너도나도 아무 뉴스나 보다가 딸깍 쉽게 공유하면 더 좋겠다는 생각이 들어, 개발자가 아님에도 직접 한 번 '캠페인즈 웹 스크래퍼'를 만들게 되었습니다. 활용하실 경우, 꼭 글을 끝까지 읽고 사용해주세요! 1. 무엇을 자동화할 수 있을지 먼저 고민...
산업/기술/IT
alookso콘텐츠
환각: AI의 무지 혹은 상상력
김재경
김재경 인증된 계정

AI 가짜 뉴스 문제, 진단서와 처방전

올해는 전 세계 인구 절반 이상이 투표하는 ‘슈퍼 선거의 해’이다. 어느 나라건 선거는 정책에 대한 토론이나 상대편에 대한 원색적 비난 등 여러 문제가 발생하지만, 최근 AI 기술의 발전으로 ‘가짜 뉴스(이하 ‘허위 정보’)문제가 두드러지고 있다. 앞서 살펴본 트럼프 체포 이미지 역시 AI로 생성된 이미지로, 사전 정보가 없다면 실제 사진으로 알 법 하다. 이런 사진 한 장으로 잘못하면 수십, 수백만 유권자의 투표에 영향을 주어 민주주의에 심각한 문제가 될 수 있다. 또한, 인공지능은 사진뿐만 아니라 허위 정보를 담고 있는 동영상, 신문 기사 및 정보 등을 쉽게 만들어내며, 연예인이나 일반인 대상의 성범죄에 활용될 수 있는 등 사회적으로 큰 문제가 될 수 있다. 이런 상황을 어떻게 해결해야 할까? AI가 만드는 허위 정보 문제, 원인 진단서. 어떤 문제를 해결하기 위해선 언제나 문제의 ‘원인’을 알아야 한다. AI가 만들어내는 허위 정보가 왜 문제가 되는지, 이유를 짚어 ...
산업/기술/IT
1
alookso콘텐츠
멕페란 판결, 법원이 의료를 망치는가?
김재경
김재경 인증된 계정

멕페란 판결, 득과 실을 따져본다면

최근 화제가 되고 있는 의대 정원 문제를 넘어, Alookso와 천관율 에디터는 '의료 문제'전반에 대해 관심을 가지고 해결해보려는 모습을 보이는 듯 하다. 결국 의료 대란 문제는 단순 의대 정원을 늘리냐 아니냐의 문제를 넘어, 한국 의료 시스템의 구조적 문제라는 문제의식에 동의한다. 이번에 본문에 소개한 '멕페란 판결'의 경우에도, 의사 단체와 정부의 직접적인 충돌 지점과는 연관이 없지만, 한국의 일반적 의료 시스템인 '3분 진료'와 큰 연관이 있는 것으로 보인다. 재밌게도 필자가 이 글을 처음 읽기 시작한 곳이 이비인후과 대기실이었는데, 나의 경우 이비인후과를 주기적으로 갔기 때문에 일종의 '이비인후과 주치의'로서 날 진료해 주셨지만, 지난번 어지럼증이 심해서 갔을 때는 여러 검사 이후 원인을 잡지 못해 이런저런 병원을 추천하는 데 그쳤다. 과거 병력을 내가 최대한 상세히 말해드렸었는데도 한계가 있었다. 멕페란 판결 문제가 발생한 원인은, 얼룩소를 포함해 의료 문제...
건강/보건
1
김재경
김재경 인증된 계정

92년생 혼인율, 89년생보다 진짜 절반 이하일까?[통계 의심하기]

인스타를 돌아다니던 중 흥미로운 게시글을 봤다. 여러분들은 이 이미지를 보면 무슨 생각이 드는가? ‘아, 확실히 한국 이제 결혼 안하는구나’ 생각이 드는 게 자연스럽다. 실제로 내가 본 게시글에서도 출생연도별 혼인 비중을 나타내는 그래프를 통해, 89년생에 비해 92년생의 혼인 비중이 절반도 채 안된다는 우려를 낳고 있었다. 그래프의 출처는 통계청의 데이터를 뉴시스 기사의 형태로 가공한 것으로, 덧글에서 많은 사람들은 혼인을 왜 하지 않는가에 대해 여러 이야기를 늘어 놓으며, 결혼하기 힘든 대한민국의 현실을 지적했다. 하지만 난 그래프를 보며 ‘이 정도인가?’라는 의심부터 들기 시작했고, 천천히 하나 하나 따져보며 이 그래프가 다소 과장하고 있는 부분이 있음을 알게 되었고, 실제로 보아야 할 통계를 따로 살펴보게 됐다. 92년생 남성, 아직 결혼을 준비할 나이먼저 든 생각은, 지금 한국의 평균 초혼 연령(처음 결혼하는 연령)이 생각보다 높다는 점이다. 이번 글에서는 대한...
노동/인권/사회 · 언론/미디어
soulandu
대중이 곧 공론의 장이라는 환상
김재경
김재경 인증된 계정

이미 너덜너덜한 얼룩소지만, 오류 바로잡기.

안녕하세요, 글 잘 읽었습니다. 저 기사만 보고 그동안의 보상 시스템을 넘겨짚으시는 것 같아 사실을 바로잡고자 답글을 씁니다. 플랫폼의 수입원에 대한 고민은 동의하지만, 얼룩소는 사실 대중에게 칼자루를 쥐어준 적이 얼마 없습니다. 좋아요 갯수에 따른 보상 책정은 2021년에 100일의 실험 하에  오히려 한참 보상 논쟁이 나왔을 때, 좋아요나 덧글, 답글 숫자가 아니라 에디터 + 직원분들의 냉정한 게이트키핑으로 메인에 걸리는 글 + 보상 책정이 이루어졌다는걸 분석으로 확인한 바 있습니다. 얼룩소의 인원이 많이 빠져나간 2023년 이후엔 이런 현상이 더더욱 심해졌구요. 제가 얼룩소 보상에 대해서만 쓴 글이 5개가 넘고, 수익모델이나 플랫폼의 미래에 대해서는 더 많은 이야기를 했는데요. 일부를 가져와 보았습니다. 제 보상과 다른 분들의 보상 내역을 얼룩소라는 플랫폼 내에서도, 얼룩소에서 활동하는 유저끼리 비교해보아도 양적 지표에 보상이 비례하지 않는다는 걸 확인했었구요. ...
한국정치 · 노동/인권/사회 · 언론/미디어
3
김재경
김재경 인증된 계정

사람과 인공지능의 교감, 사람과 사람의 교감만큼 깊을 수 있을까?

우리는 일상에서 친구들과 이야기하고, 반려동물과 놀고, 자연을 즐기며 살고 있습니다. 그런데 인공지능과도 이런 교감이 가능할까요? 최근 몇 년간 인공지능 기술이 정말 많이 발전했어요. Google I/O에서 발표된 최신 기술들, 그리고 ChatGPT-4o 같은 새로운 인공지능은 사람과 더 자연스럽게 대화할 수 있게 되었습니다. 마치 영화 'Her'에서는 인공지능이 주인공과 감정을 나누며 대화하는 모습을 보여주듯이요. 이런 기술 발전 사례들을 통해, 인공지능과 사람의 교감이 더 이상 상상 속 이야기만은 아니라는 것을 알 수 있습니다. 인간은 어떻게 세상과 교감할까? 교감이란 서로의 감정을 주고받으며 소통하는 것을 말해요. 우리는 가족, 친구, 반려동물, 그리고 자연과 교감을 나누며 살아가죠. 사람과 사람의 교감은 주로 말, 표정, 행동을 통해 이루어져요. 반려동물과의 교감은 말하지 않아도 서로의 존재만으로 큰 위로와 기쁨을 줍니다. 자연과의 교감은 우리에게 평온함과 휴식...
산업/기술/IT · 노동/인권/사회
김재경
김재경 인증된 계정

내가 알던 얼룩소야, 이제 진짜 안녕.

*제가 올리던 정치/사회/인공지능(과학)글을 잠시 접어두고, 얼룩소 포인트 중단 소식을 듣고 기존 얼룩소를 회고하는 짧은 글을 올립니다. 구독자분들께 이해를 구합니다. 얼룩소야, 안녕? 2021년 10월 초부터, 벌써 2년 반이나 함께했네. 이 두 줄을 쓰고, 한참을 멍때렸어. 너가 진짜 사라지는 것도 아닌데, 왜일까. 이제 내가 알던 너는 진짜 없어지는 것 같아. 알고 있어. 이미 사람들과 사회 의제에 대해 치열하게 이야기하던 곳이 아님을. 그 누구보다, 내가 제일 많이 분석하고, 내가 제일 글을 많이 쓴 사람이니까. '글 값'시장을 만드려던 실험은 실패했고, 컨텐츠의 퀄리티를 높이지 않으면 사람은 이 플랫폼에 들어올 이유가 없어. 너는 점점 더 전문가들을 불러 모았고, 기존 공지에 있는 대로 '공론에 기여하는 보상'을 주는 상황에서, 더 많이 기여할 수 있는 사람들을 불러모았어. 얼룩커픽, 에디터픽을 처음 받아봤을 때의 감동. 특히 '에디터픽'을 처음 받았을 때의 ...
프로젝트 alookso 이야기
8