생성형 인공지능으로 제품을 만드는 방식(3) by 김학준

생성형 인공지능으로 제품을 만드는 방식(3)

산업/기술/IT

김학준 · 어쩌다 분석가

2023/09/25

Chapter 3. 각 멤버들의 일하는 방식

프롬프트 엔지니어
1. 지식의 함정
  1. 안타깝게도 가장 안정적인 멘탈을 유지하기 어려운 이들이 바로 프롬프트 엔지니어(이하 PE)들입니다. 당연한 일입니다. 모델이 할 수 있는 일과 할 수 없는 일에 대해서 누구보다 잘 알고 있기 때문입니다. PE가 일하는 방식은, 끊임없이 방망이를 깎아대는 노인보다도 어찌보면 고약한 상황입니다. 왜 그럴까요. 방망이야 칼을 대는 대로 깎이는 반면, GEN AI는 교언영색을 마다치 않기 때문입니다. 마치 다 만들어진 것 처럼 행색을 내다가도, 다시 시도하면 언제 그랬냐는 양 원래보다 못한 상태를 보여주곤 하니, 만드는 사람 입장에서 이보다 곤란한 대상은 없을지도 모르겠습니다. 그래서, PE들은 프로젝트 초반부터 불안감을 가지고 시작하기가 십상입니다.
2. 일을 뽀개는 PE들의 방식
  1. GEN AI로 무언가를 만들겠다는 목표가 세워진 이상, 일을 해결해내기 위해 PE들은 GEN AI의 한계를 명확히 인지한 상태에서 그 목표들을 하나씩 쳐 나가야 합니다. 하지만 우선적으로, ‘이 프로젝트에서 모두들 나만 바라보고 있다’는 식의 중압감을 가질 필요가 전혀 없다는 것을 다시금 강조해야겠습니다. 상기한 것처럼, 제품에 발생한 문제를 자세히 살펴보면, 그것의 표면은 PE들의 ‘책임’인 것처럼 보일지라도 사실은 그렇지 않을 가능성이 높기 때문입니다. 이번 프로젝트를 진행하면서 정립된 우리 팀의 뽀개는 방식은 아래와 같은 위계를 따릅니다.
    1. 우선 전처리/후처리 모듈을 수정하는 것을 가장 먼저 고려합니다. 이 각각은 고객의 인풋 또는 GPT의 아웃풋을 코드레벨에서 직접 수정하는 로직을 개발하는 단계입니다. 이때 전처리는 GPT가 문제의 의도를 잘 이해할 수 있게 도와주거나, yaml등으로 제공해준 데이터를 더 잘 식별할 수 있게 도와주는 역할을 합니다. 띄어쓰기 등의 표준화작업도 포함됩니다. 후처리는 GPT가 ‘유의미하게 자주틀리는’, 그런데 그것만 수정하면 상관없을 정도로 간단한 내용을 반영하게 됩니다...