'ChatGPT 이모저모' 시리즈의 세 번째 편이 될 이번 글은, ChatGPT를 어떻게 하면 오해 및 악용 없이 잘 사용할 수 있을지에 대한 실용적 가이드를 제공하고 이론적 근거를 논의하는 데 그 목적이 있습니다. 먼저 결론부터 제시하자면 다음과 같습니다:
- 창의적인 생각을 떠올리고 그것을 객관적, 논리적으로 표현해낼 수 있는 능력
- 기계의 의인화를 필요에 따라 효과적으로 형성하거나 지체없이 파기할 수 있는 인지적 유연함
- 기술적 작동원리를 어느정도 이해하고, AI가 만든 텍스트의 성격을 잘 파악할 수 있는 리터러시
- 세상으로부터 이상한 것들과 새로운 것들을 포착해서 개념화할 수 있는 창의적이고 인간적인 역량
- 우연히 나온 결과와, 생성모델의 주요한 역량을 직접 반영하는 결과를 구분하기
'ChatGPT 이모저모' 시리즈의 지난번 편 (2편) 에서는 제가 ChatGPT의 원리를 조사하고 직접 사용해 보며 파악하고 정리해 본 주요 특징들, 그리고 원하는 결과를 효과적으로 얻기 위한 몇 가지 프롬프트 엔지니어링 (prompt engineering) 노하우들을 살펴보았습니다. 이러한 특징들과 노하우를, 1편에서 소개한 기술적 원리로부터 어떻게 이해할 수 있을지에 대한 느낌도 가져 보았었습니다. 마침 최근에 개설된 얼룩소 더 레이스에 참여하는 관계로, 기존에 쓴 두 편의 글은 이어쓰기 말고 링크로만 소개합니다. 만약에 이 글을 먼저 보셨다면 다른 글들도 한번씩 읽어 봐 주신다면 감사하겠습니다.
('ChatGPT 이모저모: 서론 및 기술적 원리 개괄' https://alook.so/posts/VnteWGL)
('ChatGPT 이모저모: 조리있음, 논리적 상상력, 그리고 강박적 우호성' https://alook.so/posts/eVtrVjP)
그러면 지난번 글의 주요 내용 요약을 시작으로 바로 본론으로 들어가겠습니다. 상당히 긴 글이 될 텐데, 혹시 관심이 있지만 바쁘신 분들은 마지막의 Concluding Remarks 부분부터 읽어 주셔도 될 것 같습니다. 내용 요약은 '...
@박 스테파노 새로운 현상들은 늘 등장하지만 우리가 기존에 가지고 있는 생각의 틀을 적용해보는 일들도 재미있는것 같아요.ㅎㅎ
새로운 '의미 엔지니어링'으로서의 거대언어모델 활용 또한, 말씀하신 것처럼 기존의 공학의 언어로 살펴볼수 있는 부분이 많지 않을까 생각해봅니다. 잘 읽어주셨다니 감사합니다.
'의미 엔지니어링'이라는 부분 인상 깊게 잘 읽었습니다. 생각을 거듭해 보니 이 영역에서 validation과 qualification, verification을 하는 또다른 도구나 작업 영역이 도출되지 않을까 싶기도 하네요. 신호와 잡음을 걸러내는...
대학원 때 공부하던 촘스키의 이야기가 아직도 유효한 세상이니 언어의 세계는 늘 공시적이고 통사적인가 봅니다.
잘 읽었습니다.
@이민수 주전공은 전기공학 쪽이었습니다 ㅎㅎ 암튼 생각보다 물리학이나 복잡계과학 쪽 분들이 여기도 많이 계셔서 반가운 마음이며... 앞으로도 여러 말씀 나누어요
와..! 아마 전공은 수학이시겠죠? 저도 나중에는 그만큼 생각할 수 있었으면 합니다 ㅎㅎㅎ
@이민수 오오 넘 멋집니다 ㅎㅎㅎㅎ 개인적 얘기지만은 저는 물리학 복수전공, 미학 부전공을 했었습니다. 통계물리 전공임에도 부끄럽지만 복잡계, 데이터분석 쪽에는 아직 약하다는.... 역시 다양한 배경에 관심이 있는 사람들이 그것들에 대해 글 쓰는 것도 좋아하고 그러는 것 같습니다.
말씀하신 사회학의 경우에도 철학의 영향이 짙고 (특히 비판이론 쪽), 그런 점에서 미학이랑도 간접적으로나마 링크가 있기는 하죠.ㅎㅎ 아예 직접적인 접점으로는 예술현상을 사회학적 방법론으로 분석하는 예술사회학이라는 것이 있다고 하고요.
여담이지만 예술이란 무엇인가를 묻는 질문에 대해 예술계 (artworld) 가 하는 것이 예술이라고 답하는 '예술제도론'도 있는데 이건 방법론적으로는 사회학이 아닌, 논리적 논증 위주의 분석철학 쪽인 걸로 알고 있습니다.
@오용재 오..! 상세한 답변 감사합니다.
지금 데이터과학이랑 사회학을 부전공하고 있는데, 특히 사회학을 공부하면서 철학이 중요하다는걸 깨닫고 있습니다... 4학년때는 철학까지?! 평점의 운명은?!
@이민수 자세히 읽어주셔서 감사합니다. 물리학에서도 신호와 잡음은 둘다 확률분포와 정보량으로 모형화되지만 그 해석에 분명한 차이가 있지요.ㅎㅎ
본론으로 넘어와서... 상호주관성이라 함은 말씀하신 것과 비슷한데 여기서는 엄밀하게 쓰지는 않았고,상대방도 나처럼 주체성 및 자율성을 가진 인간적 존재임을 인식한다 (혹은 AI의 경우, 주체인 것처럼 (잘못) 가정하고 대한다) 정도의 뜻으로 사용했습니다. 즉 주관이 객관을 대하는 것이 아니라, 주관이 서로를 대하는 것이죠
사실 이 글에서는 그냥 의인화 정도로 표현해도 되는것 같습니다 ㅋㅋ 약간 투머치한 표현인 상호주관성을 굳이 사용한 이유는 제가 좋아하는 단어여서도 있지만, 본문에서도 한번 언급된것처럼 ChatGPT의 활용을 예술에서 자율적이고 창의적인 '조수'와의 작업에 비유하기 위해서였습니다. 물론 이러한 의인화는 인지부담이 낮은 효율적인 prompt engineering을 위한 실용적 목적일것이며, 스스로 이것에 속아넘어가서는 안될 것입니다.
이야기가 나온 김에 조금더 배경을 말씀드리면, 상호주관성의 등장은 합리성에 대한 관점 (특히 지식보다는 윤리의 측면에서) 와 연결이 되어있습니다. 근대철학에서는 기본 세팅이, 내가 외부 대상에 대해 어떻게 행위해야 올바른가 인 경우가 많습니다. 여기서의 합리성은 주관이 객관을 대하는 '도덕법칙'인 셈이죠. 반면 현대로 넘어와서 그 부작용을 지적하면서 하버마스 등이 제시한 상호주관적 합리성은 주관이 다른 주관을 대할 때 필요한 담론윤리, 즉 '의사소통의 규칙'라고 할수 있겠습니다. 사실 저도 정식으로 배운것은 아니고 개인적으로 논문들만 몇개 읽었어서 부정확할 수도 있긴합니다.
정대성. "언어적-서사적 전회의 철학적 함의와 하버마스의 대응." 가톨릭철학 24 (2015): 235-258.
공부하면서 제일 처음에 살펴봤던 논문입니다. 쓰다보니 길어졌네요... 다시한번 읽어주시고 소중한 코멘트 주셔서 감사합니다!!
신호와 잡음...! 역시 보자마자 통계물리를 전공하시는 분 답다고 생각을 했습니다.
다만, '상호주관성'이라는 개념을 처음 들었는데 '서로의 입장을 이해해서 공통분모를 찾는다'는 식으로 이해를 해도 되는 것인가요? (처음은 아닌 것 같아서 예전 글을 찾아봤는데 그때도 '상호주관'이라는 키워드를 쓰셨었네요... 왜 그때는 몰랐지..?)
@kydkim 흥미롭게 읽어주시고 자세히 평해주셔서 감사합니다. 정보경제학은 사실 익숙치 않은데, 아마 경제현상도 협력과 경쟁을 통해 어떤 가치의 흐름을 조직화하는 것이다 보니 본문에서 이야기한 신호, 잡음 등과 관련이 있는 모양입니다.
좋은 키워드를 알려주셔서 감사합니다! 잘 찾아서 읽어 봐야겠습니다
먼저 "신호와 잡음"이라는 키워드는 매우 흥미롭게 다가왔습니다. 그리고 잡음을 최소화 하기위한 "창의적 협력"을 도모하고자 하는 아이디어는 참신하게 다가왔습니다.
전체적으로 논문은 make it sense 하다고 보입니다. 이론경제학 중에서 정보경제학의 연구방향도 유사합니다.
잡음을 어떻게 걸러낼 수 있는가? 신호의 기능을 증진하기 위한 호모사피엔스의 (협력)전략은 무엇인가? 이쪽 경제학분야에서도 핫한 이슈입니다.
특히, 잡음(noise)을 효과적으로 걸러 내어 신호(signal) 정보로 변환하는 메카니즘, 이 와중에서 잡음이라는 변이(variation)의 정도가 사라지면, 이 잡음으로 합리적 신호를 추론할 수 있는 이론적 근거는 있는지? 어느정도의 잡음이 존재해야 신호정보를 (비용을 적게 들이는)효율적으로 생성할 수 있는지, 이와관련하여 호모사피엔스의 집단지성은 어떻게 생성, 변환, 전파되어야 하는가 등등, 할 말이 많을 것 같습니다.
@kydkim 흥미롭게 읽어주시고 자세히 평해주셔서 감사합니다. 정보경제학은 사실 익숙치 않은데, 아마 경제현상도 협력과 경쟁을 통해 어떤 가치의 흐름을 조직화하는 것이다 보니 본문에서 이야기한 신호, 잡음 등과 관련이 있는 모양입니다.
좋은 키워드를 알려주셔서 감사합니다! 잘 찾아서 읽어 봐야겠습니다
먼저 "신호와 잡음"이라는 키워드는 매우 흥미롭게 다가왔습니다. 그리고 잡음을 최소화 하기위한 "창의적 협력"을 도모하고자 하는 아이디어는 참신하게 다가왔습니다.
전체적으로 논문은 make it sense 하다고 보입니다. 이론경제학 중에서 정보경제학의 연구방향도 유사합니다.
잡음을 어떻게 걸러낼 수 있는가? 신호의 기능을 증진하기 위한 호모사피엔스의 (협력)전략은 무엇인가? 이쪽 경제학분야에서도 핫한 이슈입니다.
특히, 잡음(noise)을 효과적으로 걸러 내어 신호(signal) 정보로 변환하는 메카니즘, 이 와중에서 잡음이라는 변이(variation)의 정도가 사라지면, 이 잡음으로 합리적 신호를 추론할 수 있는 이론적 근거는 있는지? 어느정도의 잡음이 존재해야 신호정보를 (비용을 적게 들이는)효율적으로 생성할 수 있는지, 이와관련하여 호모사피엔스의 집단지성은 어떻게 생성, 변환, 전파되어야 하는가 등등, 할 말이 많을 것 같습니다.
@박 스테파노 새로운 현상들은 늘 등장하지만 우리가 기존에 가지고 있는 생각의 틀을 적용해보는 일들도 재미있는것 같아요.ㅎㅎ
새로운 '의미 엔지니어링'으로서의 거대언어모델 활용 또한, 말씀하신 것처럼 기존의 공학의 언어로 살펴볼수 있는 부분이 많지 않을까 생각해봅니다. 잘 읽어주셨다니 감사합니다.
'의미 엔지니어링'이라는 부분 인상 깊게 잘 읽었습니다. 생각을 거듭해 보니 이 영역에서 validation과 qualification, verification을 하는 또다른 도구나 작업 영역이 도출되지 않을까 싶기도 하네요. 신호와 잡음을 걸러내는...
대학원 때 공부하던 촘스키의 이야기가 아직도 유효한 세상이니 언어의 세계는 늘 공시적이고 통사적인가 봅니다.
잘 읽었습니다.
@이민수 주전공은 전기공학 쪽이었습니다 ㅎㅎ 암튼 생각보다 물리학이나 복잡계과학 쪽 분들이 여기도 많이 계셔서 반가운 마음이며... 앞으로도 여러 말씀 나누어요
와..! 아마 전공은 수학이시겠죠? 저도 나중에는 그만큼 생각할 수 있었으면 합니다 ㅎㅎㅎ
@이민수 오오 넘 멋집니다 ㅎㅎㅎㅎ 개인적 얘기지만은 저는 물리학 복수전공, 미학 부전공을 했었습니다. 통계물리 전공임에도 부끄럽지만 복잡계, 데이터분석 쪽에는 아직 약하다는.... 역시 다양한 배경에 관심이 있는 사람들이 그것들에 대해 글 쓰는 것도 좋아하고 그러는 것 같습니다.
말씀하신 사회학의 경우에도 철학의 영향이 짙고 (특히 비판이론 쪽), 그런 점에서 미학이랑도 간접적으로나마 링크가 있기는 하죠.ㅎㅎ 아예 직접적인 접점으로는 예술현상을 사회학적 방법론으로 분석하는 예술사회학이라는 것이 있다고 하고요.
여담이지만 예술이란 무엇인가를 묻는 질문에 대해 예술계 (artworld) 가 하는 것이 예술이라고 답하는 '예술제도론'도 있는데 이건 방법론적으로는 사회학이 아닌, 논리적 논증 위주의 분석철학 쪽인 걸로 알고 있습니다.
@오용재 오..! 상세한 답변 감사합니다.
지금 데이터과학이랑 사회학을 부전공하고 있는데, 특히 사회학을 공부하면서 철학이 중요하다는걸 깨닫고 있습니다... 4학년때는 철학까지?! 평점의 운명은?!
@이민수 자세히 읽어주셔서 감사합니다. 물리학에서도 신호와 잡음은 둘다 확률분포와 정보량으로 모형화되지만 그 해석에 분명한 차이가 있지요.ㅎㅎ
본론으로 넘어와서... 상호주관성이라 함은 말씀하신 것과 비슷한데 여기서는 엄밀하게 쓰지는 않았고,상대방도 나처럼 주체성 및 자율성을 가진 인간적 존재임을 인식한다 (혹은 AI의 경우, 주체인 것처럼 (잘못) 가정하고 대한다) 정도의 뜻으로 사용했습니다. 즉 주관이 객관을 대하는 것이 아니라, 주관이 서로를 대하는 것이죠
사실 이 글에서는 그냥 의인화 정도로 표현해도 되는것 같습니다 ㅋㅋ 약간 투머치한 표현인 상호주관성을 굳이 사용한 이유는 제가 좋아하는 단어여서도 있지만, 본문에서도 한번 언급된것처럼 ChatGPT의 활용을 예술에서 자율적이고 창의적인 '조수'와의 작업에 비유하기 위해서였습니다. 물론 이러한 의인화는 인지부담이 낮은 효율적인 prompt engineering을 위한 실용적 목적일것이며, 스스로 이것에 속아넘어가서는 안될 것입니다.
이야기가 나온 김에 조금더 배경을 말씀드리면, 상호주관성의 등장은 합리성에 대한 관점 (특히 지식보다는 윤리의 측면에서) 와 연결이 되어있습니다. 근대철학에서는 기본 세팅이, 내가 외부 대상에 대해 어떻게 행위해야 올바른가 인 경우가 많습니다. 여기서의 합리성은 주관이 객관을 대하는 '도덕법칙'인 셈이죠. 반면 현대로 넘어와서 그 부작용을 지적하면서 하버마스 등이 제시한 상호주관적 합리성은 주관이 다른 주관을 대할 때 필요한 담론윤리, 즉 '의사소통의 규칙'라고 할수 있겠습니다. 사실 저도 정식으로 배운것은 아니고 개인적으로 논문들만 몇개 읽었어서 부정확할 수도 있긴합니다.
정대성. "언어적-서사적 전회의 철학적 함의와 하버마스의 대응." 가톨릭철학 24 (2015): 235-258.
공부하면서 제일 처음에 살펴봤던 논문입니다. 쓰다보니 길어졌네요... 다시한번 읽어주시고 소중한 코멘트 주셔서 감사합니다!!
신호와 잡음...! 역시 보자마자 통계물리를 전공하시는 분 답다고 생각을 했습니다.
다만, '상호주관성'이라는 개념을 처음 들었는데 '서로의 입장을 이해해서 공통분모를 찾는다'는 식으로 이해를 해도 되는 것인가요? (처음은 아닌 것 같아서 예전 글을 찾아봤는데 그때도 '상호주관'이라는 키워드를 쓰셨었네요... 왜 그때는 몰랐지..?)