저는 생성형 인공지능과 인간이 하나의 업무를 협업할 수 있도록 돕는 일을 하고 있습니다.
아직 이 분야에 있어서 충분하지 않은 짧은 식견을 가지고 있지만,
생성형 인공지능에 대한 아티클을 보고 반가운 마음에 아는 지식이 다른 분들께 도움이 될 까 싶어
뚝딱뚝딱 글을 써봅니다.
일단, 대형언어모델(LLMs)에 있어서 환각(hallucination)은 떼어놓을 수 없을 만큼,
중요한 문제 인 것은 분명합니다.
하지만, 제가 개인적으로 또한 업무적으로 겪었던 대부분의 경험을 돌이켜 보면
현 시점에서 이는 프롬프트를 통해 충분히 예방될 수 있다고 생각합니다.
일단, 챗GPT API를 이용해 만드신 ‘역사가’ 챗봇의 시스템 프롬프트를 살펴보겠습니다.
아직 이 분야에 있어서 충분하지 않은 짧은 식견을 가지고 있지만,
생성형 인공지능에 대한 아티클을 보고 반가운 마음에 아는 지식이 다른 분들께 도움이 될 까 싶어
뚝딱뚝딱 글을 써봅니다.
일단, 대형언어모델(LLMs)에 있어서 환각(hallucination)은 떼어놓을 수 없을 만큼,
중요한 문제 인 것은 분명합니다.
하지만, 제가 개인적으로 또한 업무적으로 겪었던 대부분의 경험을 돌이켜 보면
현 시점에서 이는 프롬프트를 통해 충분히 예방될 수 있다고 생각합니다.
일단, 챗GPT API를 이용해 만드신 ‘역사가’ 챗봇의 시스템 프롬프트를 살펴보겠습니다.
You are a historian writing a very short story about a person in history. I'll give you the name of a food, and you'll write a short (10 sentences or less) story in plain Korean about the actual history of that food and person. You don't need to tell us anything else, but be sure to give us your source (the title of a book or article) at the beginning.
(당신은 역사 속 인물에 대한 아주 짧은 이야기를 쓰는 역사가다. 내가 음식 이름을 따로 알려주면, 그 음식과 인물에 대한 실제 역사를 평이한 한국어로 짧게(10문장 이내) 이야기해달라. 다른 내용은 말할 필요는 없지만, 반드시 첫머리에 출처(책이나 기사 제목)를 알려달라.)
위 프롬프트의 문제는 다음과 같습니다.
- role을 역사가(historian) 로 주고, 이야기를 써달라(writing a very short story)고 했습니다.
대형언어모델은 사용자의 의도를 지나치게 고려하는 경향이 있기에, 이야기를...
.jpg)
안녕하세요! 귀한 글 감사합니다. 잘 읽었습니다. 직접 서비스를 개발하고 계신가 봐요. 덕분에 생생한 이야기를 들을 수 있었습니다. :))
제가 예시로 만든 챗봇은, 생성 AI 경험이 없는 분이 간단히 체험하실 수 있게 할 목적으로 만들었습니다. 그래서 프롬프트를 아주 엄격하게 하지는 않고 초심자가 나름 신경 썼을 때 정도로 맞춰 만들었습니다. 환각 이야기할 때 글에서 늘 언급되는 세종대왕 맥북.... 이런 식상한 이야기 대신 직접 경험할 수 있게 한 것입니다. 그래서 최적의 프롬프트는 아니었고요. 이렇게 전문가께서 직접 프롬프트 교정(!)을 해주시면서 더 나은 결과를 위한 방법을 알려주시니, 다른 분들께도 큰 도움이 될 것 같습니다. (괜찮으시다면 이 글을 본문에도 링크로 넣어 더 많이 읽게 하겠습니다.)
글의 목적은 환각이 많아 생성 AI가 나쁘다, 이런 결론을 내리려는 것은 아닙니다. 환각이 많이 발생한다는 것은 이미 알려져 있고, 줄이려는 노력이 사용자 단에서(프롬프트 개선으로), 개발 단에서(데이터나 구조 개선으로) 이뤄지고 있다는 것도 알려져 있습니다. 그 현황을 잘 이해하고, 이런 상황에서 서비스를 개발하거나 사용자가 이용할 때 주의할 점을 알아보고 싶었습니다. 또는 검색이나 사실 관계 정리보다 오히려 핏이 더 잘 맞는 사용처가 있는 것은 아닌지 궁금하기도 했고요. 물론, 테드 창 등이 이야기하는 것처럼, 지금의 생성 AI가 생성한 결과물이 언젠가 현실의 열화 버전으로 판명나고 말 가능성이 정말 있을지도 한 번 타진해봐야 하고요.
짧은 글로 다 다룰 수 없는 거대한 이야기라고 생각하고, 글은 하나의 발제라고 봐주시면 좋겠습니다. 지금처럼 더 잘 이용하기 위한 방법도 언급되고, 기술에 대한 이야기나 가짜 정보에 의한 윤리 이야기도 나오면서 더 풍부한 이야기로 번져나가면, 보다 재미도 있고 유익하지 않을까 합니다. 의견 언제든 환영합니다. 감사합니다. :>
안녕하세요! 귀한 글 감사합니다. 잘 읽었습니다. 직접 서비스를 개발하고 계신가 봐요. 덕분에 생생한 이야기를 들을 수 있었습니다. :))
제가 예시로 만든 챗봇은, 생성 AI 경험이 없는 분이 간단히 체험하실 수 있게 할 목적으로 만들었습니다. 그래서 프롬프트를 아주 엄격하게 하지는 않고 초심자가 나름 신경 썼을 때 정도로 맞춰 만들었습니다. 환각 이야기할 때 글에서 늘 언급되는 세종대왕 맥북.... 이런 식상한 이야기 대신 직접 경험할 수 있게 한 것입니다. 그래서 최적의 프롬프트는 아니었고요. 이렇게 전문가께서 직접 프롬프트 교정(!)을 해주시면서 더 나은 결과를 위한 방법을 알려주시니, 다른 분들께도 큰 도움이 될 것 같습니다. (괜찮으시다면 이 글을 본문에도 링크로 넣어 더 많이 읽게 하겠습니다.)
글의 목적은 환각이 많아 생성 AI가 나쁘다, 이런 결론을 내리려는 것은 아닙니다. 환각이 많이 발생한다는 것은 이미 알려져 있고, 줄이려는 노력이 사용자 단에서(프롬프트 개선으로), 개발 단에서(데이터나 구조 개선으로) 이뤄지고 있다는 것도 알려져 있습니다. 그 현황을 잘 이해하고, 이런 상황에서 서비스를 개발하거나 사용자가 이용할 때 주의할 점을 알아보고 싶었습니다. 또는 검색이나 사실 관계 정리보다 오히려 핏이 더 잘 맞는 사용처가 있는 것은 아닌지 궁금하기도 했고요. 물론, 테드 창 등이 이야기하는 것처럼, 지금의 생성 AI가 생성한 결과물이 언젠가 현실의 열화 버전으로 판명나고 말 가능성이 정말 있을지도 한 번 타진해봐야 하고요.
짧은 글로 다 다룰 수 없는 거대한 이야기라고 생각하고, 글은 하나의 발제라고 봐주시면 좋겠습니다. 지금처럼 더 잘 이용하기 위한 방법도 언급되고, 기술에 대한 이야기나 가짜 정보에 의한 윤리 이야기도 나오면서 더 풍부한 이야기로 번져나가면, 보다 재미도 있고 유익하지 않을까 합니다. 의견 언제든 환영합니다. 감사합니다. :>