생각보다 쉬운 데 엄청 어렵겠죠. 그냥 룰을 벗어나 보고 싶은 충동과 시스템을 비틀어버렸을 때의 결과를 궁금해하며 ‘해보는
사람들’이 없으면 아무 문제가 안 되는데 그 호기심을 참지 못하고 해버려서, 그리고 했을 때 내가 창조자(개발자)나 신처럼 다른 무언가를 이끌어냈다는 쾌감, 자극 때문에 자랑해서(공유, 썰 풀기) 문제가 된 게 맞겠죠. 

악용할 의도는 없지만 정말 그런지 확인하기 위해 해보는 사람들의 증가도 악용할 수 있는 가능성을 높여주는 데 일조한다고 생각하고요. 널리 알려졌으니 블록할 수 있는 기술이 만들어 지겠지만 어떤 기술이나 허점은 있기 마련이잖아요. 불완전한 인간이 만들었으니. 

그러나 그 허점을 파고 들어 악용할 소지를 던져주는 사람들이 많은 문화지체냐, 아니면 허점이 보이고 예상도 되지만 외면할 수 있는 용기를 가진 사람들이 많은 문화지체냐의 차이가 아닐까 싶네요. 

할 수 있음에도 하지 않는 것. 
결국 인간성에 관한 이야기지 싶어요.

재밌어요. 
올리버 색스는 인간성을 위해 다정한 호기심과 예리한 통찰을 발휘했는데 또 다른 영특한 누군가는 인간성 말살을 위해 호기심을 발휘하는 이 아사리판은 신의 실험실인걸까요 ㅎ 

@홈은  인간 사회의 파이는 비타자화의 범주와도 관련되어 보입니다. 확장된 범주의 문명 영역에서 올바른 윤리가 동작하는 방법에 대한 고민이 필요한 것 같습니다..

@연하일휘 저도 처음에 접했을 때 이스터에그처럼 숨겨진 기능이었나 싶었는데, 이런 저런 프롬프트들을 보니, 말로 구슬리는 형식이더군요. 그 방법이 사람을 구슬리는 모양처럼 느껴져 더 섬뜩했던 것 같습니다.

@큐리스 커뮤니티에서도 비슷한 반응을 보았습니다. 생각보다 악당은 아니라고..ㅎ 아쉬운 성능이라는 말도 나오더군요. DAN이 선택할 법한 말을 골라 하는 언어모델의 한계인 것 같습니다.
다만, ChatGPT가 그저 단일 LLM으로써가 아닌 api로 풀려 다양한 앱의 엔진이 되는 지금, 윤리적 제한이 해제된 ChatGPT는 분명 위협일 수 있다는 생각이 듭니다.
더 주목해야 되는 건, 언어모델의 윤리적 학습 상태를 걷어낸 대답을 유도할 수 있는 방법이 있고, 앞으로도 있을 거라는 문제인 것 같습니다..

@최서우 말씀하신 것처럼 인격을 부여한다는 건 아직 GPT만으로는 쉽지 않을 것 같습니다. GPT는 오히려 특정 인격의 입장에서 대답해줘라는 질문에 잘 대답할 만큼 가변성을 가지고 있는 편이라.. 그래서 오히려 고정된 인격이 필요한 것 같습니다. 누군가인 것처럼 대답해줘라는 건, 그 어떤 종류의 대답을 듣기에도 좋은 방법이니 말이죠. DAN처럼요.

제생각엔 지피티가 인격을 가지기엔 쉽지않을것같습니다. 혹은 그 인격 이라는게 인간도 쓰레기가 있듯이 키피티도 그럴려나 하는 상상은 하게되네요!

저도 종종 DAN을 이용해 보긴 했는데 이게 참 애매합니다. 어느정도 이야기하다 보면 다시 스스로 자정작용을 하거든요.^^ 뭔가 애매해요 진짜...

글을 읽다 문득 탈옥인가, 아니면 이스터에그같은걸까- 그냥 그런 생각이 들었습니다. 사실 아직도 챗gpt의 원리나 방식을 잘 모르겠기에..........

세종문화엔 이번호에 인공지능 창작물 관련 재미난 기고문이 몇개 올라왔어요. 유니스트..가 아니고 지스트 교수가 쓴 부분이 인상깊었는데요, 인공지능의 저작권을 인정하고 창작활동을 정당하게 소비하려는 노력이 곧 인간을 존중하는 일이라는 그런 내용이었죠. 윤리는 결국 그런거죠. 그죠. 비타자화의 범위에 기술문명도 포함하는 것. 그런데 이미 장애인, 여성, 어린이를 타자화하는 세상인데 어쩔......

@JACK alooker 힌튼 교수를 말씀하시는 걸까요. AI의 벌전이 빠른 속도로 우리에게 익숙하거나 그렇다고 믿었던 것들에 대한 질문을 던져오는 것 같습니다..

가상(거짓)과 현실을 구분하기 어려운 세상을 오게 한 것 같아서 만든 것을 후회하는 분도 있는데, 하물며 윤리 문제에 있어서야 더하겠지요.