에디터 노트 인공지능(AI)에 대한 이야기가 넘칩니다. 나날이 뛰어난 모습을 보이는 AI의 기능에 놀라기도 하고, 이런 AI가 불러올 어지러운 미래를 걱정하기도 합니다. AI 개발자에게 여러 당부를 하기도 합니다. 그런데 한 가지 잊기 쉬운 게 있습니다. AI에게도 사용자가 있다는 사실입니다. 사용자를 고려하지 않는다면, AI 개발 과정에서 아무리 성능과 윤리성에 신경 써도 결과적으로 편향을 피하기 어렵습니다. 그렇다면 무엇을, 어떻게 고려해야 할까요. 사용자와 소통하는 AI, 인터랙티브 AI에 대해 김주호 KAIST 교수가 진단합니다.
Pexels
생성형 인공지능(AI)과 대규모 언어 모델(LLMs)의 등장으로 AI는 일상생활의 여러 영역에 깊숙이 파고들고 있다. 그러나 이런 기술적 진보에도 불구하고, AI가 전기, 자동차, PC, 인터넷, 모바일 같이 전 분야에 걸쳐 사회·경제적 파급 효과를 내는 진정한 범용기술로 자리 잡기 위해서는 아직 넘어야 할 산이 많다 [1].
현재 AI 기술은 데모와 실험실 수준에서는 놀라운 성과를 보여주고 있지만, 실제 사용자들이 일상적으로 사용할 때엔 아직 기대에 미치지 못하는 경우가 많다. 단순히 기술적 한계 때문만은 아니다. AI와사용자간의상호작용, 즉인터랙션에대한깊이있는이해와설계가부족한 것이 주요 원인이다.
AI가 범용기술로 발전하기 위해서는 기술 자체의 발전뿐만 아니라, 사용자와 AI 사이의인터랙션에대한깊이있는연구와설계가 필요하다. ‘인터랙션중심 AI’란, 단순히 뛰어난 성능을 보이는 AI를 만드는 것이 아니다. 사용자의 실제 문제를 해결하고 그들의 삶에 의미 있는 변화를 가져올 수 있는 AI 기술을 만드는 것을 의미한다.
‘인터랙션중심 AI’의 세 가지 과제
인터랙션 중심 AI를 위해서는 세 가지 요소를 고려해야 한다. 첫째, 인터랙션설계를 통해 사용자의의도와가치를더정확히반영해야 한다. 둘째, 다양한사용자그룹의특성과요구사항을고려해야 한다. 마지막으로, 사용자에게충분한주도권을부여해 AI와의협력을 통해 더 나은 결과를 얻도록 도움을 줘야 한다.
(1)첫 번째 과제: 사용자의도와가치의정확한반영
현재의 AI 모델들은 놀라운 능력을 보여주지만, 종종 사용자의 실제 의도를 제대로 이해하지 못한다. 예를 들어, 이미지 생성 AI를 사용할 때, 사용자가 원하는 정확한 이미지를 생성하기 위해 여러 번의 시도와 수정이 필요한 경우가 많다. 이는 사용자의 의도를 AI가 정확히 파악하지 못하기 때문이다. 이런 문제를 해결하기 위해 오픈AI 등 기업은 인간 피드백을 통한 강화학습(Reinforcement Learning from Human Feedback, RLHF) 기술을 도입해 사용자의 선호도를 학습하는 방식을 채택하고 있다 [2].
그러나 이런 접근 방식에도 한계가 있다. 평균적인 사용자의 선호도를 반영하는 것은 개별 사용자의 고유한 의도와 가치를 정확히 반영하지 못할 수 있다. 따라서 더욱 개인화된 접근 방식과 함께, 사용자의 의도를 명확히 표현할 수 있는 인터페이스를 설계해야 한다.
한 가지 접근 방식으로, 필자의 연구팀은 시각적 디자인 탐색을 위한 AI 인터페이스를 개발했다 [3]. 이 시스템은 사용자가 원하는 디자인 요소를 더 정확하게 표현할 수 있도록 돕는다. 디자인 요소를 네 가지 카테고리(주제/물체, 행동/액션, 전반적인 테마/무드, 배치)로 나눠 사용자가 각 카테고리별로 원하는 요소를 선택할 수 있게 한다. 예를 들어, 사용자가 '바다에서 놀고 있는 문어'라는 이미지를 원한다면, AI가 자동으로 분석해 놓은 결과를 보면서 '문어'를 주제로, '놀고 있는'을 행동으로, '바다'를 배경으로 선택할 수 있다. 이렇게 구조화된 입력 방식은 AI가 사용자의 의도를 더 정확히 파악하고 반영할 수 있게 해준다 (그림 1).
[그림 1] 디자이너의 시각적 디자인 탐색을 돕는 AI 인터페이스(https://creativeconnect.kixlab.org/). 저자 제공
이 시스템의 효과를 검증하기 위해 실험한 결과, 사용자들이 더 많은 새로운 아이디어를 발견하고, 더 다양한 디자인을 탐색할 수 있었음을 확인했다. 창의성 지원 지수(Creativity Support Index)에서도 높은 점수를 기록했다 [4]. 이는 같은 기술을 활용하더라도 구조화된 의도를 반영하는 사용자 인터페이스가 사용자의 의도를 더 정확히 반영하고, 창의적 과정을 효과적으로 지원할 수 있음을 보여준다.
(1)두 번째 과제: 다양한사용자그룹고려
AI 기술의 두 번째 과제는 다양한 사용자 그룹의 특성과 요구사항을 고려하는 것이다. 현재의 AI 모델은 주로 영어권, 서구 중심적인 데이터를 바탕으로 학습돼 있어, 다양한 문화와 언어권의 사용자에게 동일한 수준의 서비스를 제공하지 못하는 경우가 많다. 예를 들어, 자동 음성 인식(ASR, Automatic Speech Recognition) 기술의 경우, 비원어민의 영어 발음에 대해서는 정확도가 크게 떨어지는 문제가 있다 [5]. 이는 기술적 한계 때문에 발생한 문제가 아니다. 다양한 사용자 그룹에 대한 고려가 부족해서 발생한 결과다 (표 1).
[표 1] 상용 서비스 9종의 원어민과 비원어민 영어 발음에 대한 자동음성인식 오류율을 비교했다. 비원어민에 대한 오류율이 모든 서비스에서 높게 나타났다. 저자 제공
이런 문제를 해결하기 위해서는 다양한 문화, 언어, 연령대의 사용자 데이터를 수집하고 이를 AI 학습에 반영해야 한다. 또한, 특정 사용자 그룹을 위한 맞춤형 모델도 개발할 필요가 있다. 예를 들어, 한국인의 영어 발음을 더 잘 인식하는 ASR 모델을 개발하는 등의 노력이 필요하다.
필자의 연구팀은 이 문제를 해결하기 위해 한국인 영어를 더 잘 알아듣는 맞춤형 음성 인식 기술을 개발했다 [6]. 한국인의 영어 발화 데이터를 대규모로 수집하고, 이를 바탕으로 AI 모델을 미세조정했다. 한국인 영어 학습자의 일반적인 발음 오류 패턴을 분석해 모델에 반영하기도 했다.
그 결과, 원어민 영어에 대해서는 기존 모델과 비슷한 수준의 정확도를 유지하면서도, 한국인의 영어 발화에 대해서는 향상된 인식률을 보이는 모델을 개발할 수 있었다. 이는 특정 사용자 그룹의 특성을 고려한 AI 개발이 얼마나 중요한지를 보여주는 좋은 사례다.
그렇다면 다양한 그룹에 대해 비슷한 성능을 보이는 AI는 공정하다고 할 수 있을까. 필자의 연구팀에서는AI 시스템의 성능 격차가 없더라도 여전히 불공정할 수 있다는 점을 밝혀냈다 [5]. 420명의 청취자가 참여한 실험에서 원어민과 비원어민의 음성을 동일한 자막으로 제시했을 때 사람들의 인식이 어떻게 다른지 조사했다. 그 결과, 화자가 원어민일 경우에는 자막 오류에 대해 청취자가 화자보다 AI를 더 많이 탓했지만, 화자가 비원어민일 경우에는 반대로 AI보다 화자를 더 많이 탓하는 경향을 발견했다.
이 연구 결과는 AI 시스템이 모든 사용자에 대해 동등한 성능을 보이더라도 비원어민에 대한 부정적 인식을 강화할 수 있음을 보여준다. 향후 AI를 개발할 때에는 단순히 기술적 성능의 평등만 고려해서는 안 되고, 사용자의 인식까지 고려해 진정한 공정성을 확보해야 한다. AI 기술이 의도치 않게 특정 사용자 그룹에게 해를 끼칠 수 있다는 점을 고려해야 한다.
(3) 세 번째 과제: 사용자 주도권 보장
마지막 과제는 AI 시스템 사용 과정에서 사용자의 주도권을 보장하는 것이다. AI가 강력해질수록 사용자들은 오히려 무력감을 느낄 수 있다. 특히 교육 분야에서 이 문제가 두드러지게 나타난다. 예를 들어, 프로그래밍교육에서 AI 코드생성도구를사용할경우, 학생들은단기적으로는과제수행이쉬워졌다고느낄수있다. 하지만장기적으로는 의존도가 높아지고 무력감을 느낄수있다. 이는 AI와의상호작용과정에서사용자의자기효능감이저하되기 때문이다.
필자의 연구팀은 AI 기반의 코딩 지원 시스템을 개발하고 그 효과를 연구했다 [7]. 이 시스템은 사용자가 웹사이트의 특정 부분을 지정하고 원하는 변경 사항을 자연어로 설명하면, AI가 이를 해석하여 여러 가지 코드 옵션을 추천한다 (그림 2).
[그림 2] 음성으로 원하는 효과를 설명하면 웹사이트 디자인을 수정할 수 있는 AI 인터페이스 (https://stylette.kixlab.org/). 저자 제공
연구 결과, 이 시스템을 사용한 사용자들은 기존의 개발 도구를 사용했을 때보다 35% 더 빠르게 작업을 완료했고, 80%의 사용자가 성공적으로 웹 프로그래밍 작업을 수행할 수 있었다. 그러나 흥미롭게도 사용이 진행될수록 사용자의 자기 효능감이 감소하는 현상을 관찰할 수 있었다. 사용자들은 시스템이 제공하는 도움에 만족하면서도, 동시에 자신의 능력 향상에 대한 불안감을 느꼈다.
따라서 AI 시스템은 사용자의 능력을 향상시키는 방향으로 설계돼야 한다. 이를 위해 교육학의 '스캐폴딩(scaffolding)' 개념을 AI 설계에 적용할 수 있다. 초기에는 AI가 많은 도움을 제공하지만, 점차 그 도움을 줄여가면서 사용자가 스스로 능력을 개발할 수 있도록 유도하는 방식이다. 사람들의 학습과 능력 계발을 위한 환경에서는 단순히 AI를 적용하는 것으로는 부족하고, 교육학적 원리를 AI 시스템 설계에 통합할 필요가 있음을 보여준다 (그림 3).
[그림 3] AI 기술은 다양한 사용자 그룹의 특성과 요구사항을 고려해야 한다. 또, 사용 과정에서 사용자의 주도권을 보장할 필요가 있다. 이솔
인터랙션중심 AI 연구
인터랙션 중심 AI를 개발하기 위해서는 기존의 AI 연구 방식에서 벗어나 새로운 접근이 필요하다. 단순히 모델의 성능을 향상시키는 것을 넘어, 실제사용환경에서 AI가어떻게작동하는지, 사용자와어떻게상호작용하는지를깊이있게연구해야 한다는 뜻이다.
먼저, AI 시스템의 평가 방식을 재고해야 한다. 기존의 평가 방식은 주로 모델의 정확도나 성능에 초점을 맞췄다. 하지만 실제 환경에 적용되는 AI 시스템은 사용자 경험, 만족도, 장기적인 학습 효과 등을 포함한 다면적인 평가가 더욱 중요하다. 필자의 연구팀은 사용자가 직접 AI 시스템의 평가 지표를 정의하고 이를 기반으로 자신의 목적에 맞게 프롬프트를 평가하고 개선할 수 있는 도구를 개발했다 [8]. 예를 들어, 과학 개념을 설명하는 AI 시스템을 평가할 때, 어떤 사용자는 설명의 단순성을, 다른 사용자는 과학적 정확성을 더 중요하게 여길 수 있다. 이 도구는 이런 개인별 선호도를 반영한 평가를 가능하게 한다 (그림 4).
[그림 4] 사용자가 직접 AI 시스템의 평가 지표를 정의하고 이를 기반으로 자신의 목적에 맞게 프롬프트를 평가하고 개선할 수 있는 도구(https://evallm.kixlab.org/). 저자 제공
이런 연구는 AI 시스템에 대한 평가가 단순히 기술적 성능을 넘어, 실제 사용 맥락에서의 효과와 사용자 경험을 포괄해야 함을 보여준다. 또, 평가 과정에 사용자를 적극적으로 참여시킴으로써 더욱 사용자 중심적인 AI를 개발할 수 있게 해준다.
AI 교육도 변화가 필요하다. 단순히 AI 기술을 가르치는 것을 넘어, AI와 인간의 상호작용, AI의 사회적 영향 등에 대한 이해를 높이는 교육이 필요하다. 이를 통해 미래의 AI 개발자가 기술 역량뿐만 아니라, 인간 중심적 사고와 윤리적 판단 능력을 갖출 수 있도록 해야 한다 (그림 5)
[그림 5] 인터랙션 중심 AI를 개발하기 위해서는 기존의 AI 연구 방식에서 벗어나, 실제 사용 환경에서 AI가 어떻게 작동하는지, 사용자와 어떻게 상호작용하는지를 깊이 있게 연구해야 한다. 이솔
AI 시스템을설계할 때엔 다양한분야의전문가가협력해야 한다. 컴퓨터와 AI 연구자뿐만 아니라 심리학자, 교육학자, 인류학자, 디자이너 등이 함께 참여해 다각도에서 AI와 인간의 상호작용을 연구하고 개선해야 한다.
마지막으로, AI 시스템의 개발 과정에서 사용자 참여형 설계 방식을 적극적으로 도입해야 한다. 실제 사용자들의 피드백을 지속적으로 수집하고 반영함으로써, 더욱 사용자 중심적인 AI 시스템을 개발할 수 있다 (그림 6).
[그림 6] AI 시스템을 설계할 때엔 컴퓨터와 AI 연구자 외에 심리학자, 교육학자, 인류학자, 디자이너 등이 함께 참여해 다각도에서 AI와 인간의 상호작용을 연구하고 개선해야 한다. 이솔
결론: AI의미래와인터랙션의역할
AI 기술이 진정한 범용기술로 발전하기 위해서는 기술 진보와 함께 인터랙션에 대한 깊이 있는 이해와 설계가 반드시 필요하다. 사용자의 의도와 가치를 정확히 반영하고 다양한 사용자 그룹의 특성을 고려하며, 사용자의 주도권을 보장하는 AI 시스템을 개발해야 한다.
인터랙션 중심 AI 개발은 단기적으로는 더 많은 시간과 노력을 요구할 수 있다. 그러나 장기적으로는 AI가 우리 사회에 더 큰 가치를 창출하고, 진정으로 인간의 능력을 확장시키는 도구로 발전하기 위해 반드시 필요하다. AI의미래는단순한기술진보를넘어, 인간과 AI의조화로운상호작용에달려있다.
글 김주호 KAIST 전산학부 교수
그림 이솔 과학일러스트레이터·약사
기획 사단법인 집현네트워크 기획 최기영 전 서울대 교수, 전 과학기술정보통신부 장관 편집 윤신영 alookso 에디터
이 프로그램은 과학기술진흥기금 및 복권기금의 재원으로 운영되고 과학기술정보통신부와 한국과학창의재단의 지원을 받아 수행된 성과물로 우리나라의 과학기술 발전과 저소득 소외계층의 복지 증진에도 기여하고 있습니다.
.jpg)
