좋은 시리즈 잘 보고 갑니다. 대학원에서 과학기술의 정치 랩(Politics of Technology LAB)을 약 반년 정도 대학원생 매니저를 했던 입장에서 정말 흥미롭게 읽었습니다.
파이썬을 정말 발가락 끝 정도만 담가보았음에도, 기존의 패키지를 통해 표나 그래프 제작부터 텍스트 분석에서 사용되는 말뭉치 정제까지 큰 도움을 받아 보았기에(사실 없으면 아예 못했을..), 기술 부분에서의 민주화가 어떤 느낌인지 간접적으로 체감할 수 있었습니다.
AI는 아니지만, 알고리즘과 기업의 이익에 관하여 글을 작성하였던 적이 있습니다. AI의 학습 알고리즘에 따른 편향 - 흑인 여성에 대해 안면 인식율이 낮거나, 유저들에 의해 AI가 성희롱에 이용되는 등의 문제가 있죠. 그리고 결국 이런 문제들은 기존 인간 사회의 문제들을 거의 그대로 반영합니다.
그런 의미에서, 'AI 민주화'문제는 민주주의 국가에서 우리 사회의 문제들을 해결하는 정치의 민주주의와 닮은 지점이 있다고 생각합니다....
좀 더 읽어 보겠습니다^^
춥고 흐린날 이지만
금요일 입니다
옷 따습게 입구 맛난 점심 챙겨 드셔요^^
AI를 누구나 모든 곳에서 사용할 수 있으려면 탈자본화 되고 진정한 민주화가 필요한데 지금은 초거대 AI 플랫폼은 점차 빅테크의 전유물이 되고 있는 단계입니다.
AI 민주화에 '민주적 가치' 불어넣기 논의는 시민에 의한 기술통제가 핵심이라고 할 수 있습니다. AI 기술에 의해서 초래되는 risk, 피해 등 사회적 비용이 존재합니다. 민주주의는 권력에 대한 통제를 그 요소로 하죠. 그 구도를 AI에 적용해 보면 democratic AI 가 필요합니다. 아직은 제도화되지 않았지만 유럽연합에서는 AI LAW를 논의하고 있습니다. 알고리즘에 의해 피해를 입은 경우 Algorithm auditing이라는 절차를 거치자는 제안도 나왔습니다.
AI의 민주화란 단순한 공유가 아닌 통제를 필요로 한다는 거로군요! 설명가능한 인공지능과 피드백이 가능한 신경망구조라는 것이 가능해진다고는 해도 구체적인 피드백 과정은 쉬이 떠오르지 않네요.. 결국 AI라는 것이 개인이나 단체로 커스터마이징 되고, 그 아웃풋들에 개인이 책임을 지고 관리하는 방식이 되지 않을까요?
피드백 ~~감사드리며 쉬운 글쓰기로 문장을 바꿔 보겠습니다
한때 IT종사자였지만, 내용의 체득이 많이 어렵네요.
AI의 민주화란 단순한 공유가 아닌 통제를 필요로 한다는 거로군요! 설명가능한 인공지능과 피드백이 가능한 신경망구조라는 것이 가능해진다고는 해도 구체적인 피드백 과정은 쉬이 떠오르지 않네요.. 결국 AI라는 것이 개인이나 단체로 커스터마이징 되고, 그 아웃풋들에 개인이 책임을 지고 관리하는 방식이 되지 않을까요?
피드백 ~~감사드리며 쉬운 글쓰기로 문장을 바꿔 보겠습니다
한때 IT종사자였지만, 내용의 체득이 많이 어렵네요.
AI를 누구나 모든 곳에서 사용할 수 있으려면 탈자본화 되고 진정한 민주화가 필요한데 지금은 초거대 AI 플랫폼은 점차 빅테크의 전유물이 되고 있는 단계입니다.
AI 민주화에 '민주적 가치' 불어넣기 논의는 시민에 의한 기술통제가 핵심이라고 할 수 있습니다. AI 기술에 의해서 초래되는 risk, 피해 등 사회적 비용이 존재합니다. 민주주의는 권력에 대한 통제를 그 요소로 하죠. 그 구도를 AI에 적용해 보면 democratic AI 가 필요합니다. 아직은 제도화되지 않았지만 유럽연합에서는 AI LAW를 논의하고 있습니다. 알고리즘에 의해 피해를 입은 경우 Algorithm auditing이라는 절차를 거치자는 제안도 나왔습니다.