2023/11/06
고도로 발달한 AI는 언제나 상상을 자극하는 소재인 것 같습니다. 그 중에서도 그러한 AI를 인간으로 볼 수 있는 지 아닌지의 여부는 항상 논쟁적이죠. 아무래도 무엇을 인간과 같다고 판단하는 주체 또한 인간이기에 그러한 것이 아닐까 싶습니다.
인간이 AI를 인간으로 볼 것인지 아닌지 판단해야 하는 이유는 의식을 이루는 기반에 대한 것은 아닐 것입니다. 생물학적 인간과 전기적 AI는 너무나도 분명하게 다르니까요. 그러면, 우리가 판단하고자 하는 영역은 오로지 상호작용을 통해 판단할 수 있는 의식의 형태에 관한 것일 겁니다.
그런 의미에서 존 서얼의 구분법은 질문의 범위에서 벗어난다는 생각입니다. 진정한 이해의 영역은 상호작용을 벗어난 개개의 개체 내에서 일어나는 주관적인 판단과 반응의 영역에 해당하며, 만약 그런 일이 일어났다고 한들 확인할 수 있는 방법은 다시 상호작용 뿐이기 때문입니다.
생명주의와 판식론적 구분은 충분히 흥미롭지만, 마찬가지로 질문의 범위에서 벗어난다는 생각입니다. 예를 들어 개미 한마리 한마리를 볼 때 어떤 의식이나 사회성을 지닌 개체라고 느끼는 경우는 거의 없지만, 그들이 이룬 군집을 볼 때면 어떤 사회성이나 집단의식 같은 걸 느끼곤 합니다. 마찬가지로 새들의 군무나, 인공지능이라는 연결망 구조 등 충분히 복잡하게 얽혀 기능을 수행하는 모든 것들에게서 어떤 의식이나 생명력 같은 것을 느끼는 것은 가능할 것입니다. 하지만, 단순히 그런 의식과 생명력 속에서 인간적인 모습을 발견하는 것과 그것을 인간이라고 판단하는 것은 별개의 영역이므로 원래의 질문과는 초점이 조금 벗어났다는 생각이 듭니다.
그렇다면, 재경님과의 질의응답에서...
인간이 AI를 인간으로 볼 것인지 아닌지 판단해야 하는 이유는 의식을 이루는 기반에 대한 것은 아닐 것입니다. 생물학적 인간과 전기적 AI는 너무나도 분명하게 다르니까요. 그러면, 우리가 판단하고자 하는 영역은 오로지 상호작용을 통해 판단할 수 있는 의식의 형태에 관한 것일 겁니다.
그런 의미에서 존 서얼의 구분법은 질문의 범위에서 벗어난다는 생각입니다. 진정한 이해의 영역은 상호작용을 벗어난 개개의 개체 내에서 일어나는 주관적인 판단과 반응의 영역에 해당하며, 만약 그런 일이 일어났다고 한들 확인할 수 있는 방법은 다시 상호작용 뿐이기 때문입니다.
생명주의와 판식론적 구분은 충분히 흥미롭지만, 마찬가지로 질문의 범위에서 벗어난다는 생각입니다. 예를 들어 개미 한마리 한마리를 볼 때 어떤 의식이나 사회성을 지닌 개체라고 느끼는 경우는 거의 없지만, 그들이 이룬 군집을 볼 때면 어떤 사회성이나 집단의식 같은 걸 느끼곤 합니다. 마찬가지로 새들의 군무나, 인공지능이라는 연결망 구조 등 충분히 복잡하게 얽혀 기능을 수행하는 모든 것들에게서 어떤 의식이나 생명력 같은 것을 느끼는 것은 가능할 것입니다. 하지만, 단순히 그런 의식과 생명력 속에서 인간적인 모습을 발견하는 것과 그것을 인간이라고 판단하는 것은 별개의 영역이므로 원래의 질문과는 초점이 조금 벗어났다는 생각이 듭니다.
그렇다면, 재경님과의 질의응답에서...
.jpg)
@김재경 흥미롭습니다. 인권과 동물권 식물권에 이어 AI권까지..ㅎ 그동안 인간중심적인 윤리관이 확장되는 계기가 AI 윤리가 될지도 모르겠어요.
AI가 인간으로 구분되는 시나리오도 충분히 상상해볼 수 있을 것 같습니다. 최근 @실컷 님이 연재중인 블레이드 러너 이야기처럼 말이죠. 일단 그런 AI가 만들어진다면 인간이라는 광범위한 범주 내의 하위 범주 내지는 동일 범주로 자리잡을지도 모르겠어요. 다만, 각 AI 개체의 독립성, 그리고 재생산의 주체성, 그리고 그 속도와 생명의 유한성 같은 것들이 고려되지 않는다면, 인간과 비슷한 범주로 취급되는 것은 질투, 멸시, 위협과 같은 감정을 자아내므로 합의에 이르기 어려울 것 같아요.
사회적 지위 획득은 도구로서의 AI에게는 원치 않은 기능이죠..ㅎㅎ 결국 이 부분에서 양가감정이 발생하는 것이 아닐까 싶습니다. 그래서 저도 기본적으로 사람과 완전히 동등한 지위를 갖거나 그럴 가능성이 있는 AI를 창조하는 일은 삼가야 하는게 맞다는 생각을 합니다. 예를 들면 자신의 생명을 소중히 여긴다거나, 그와 유사한 감정을 언어로 표현하는 식의 인공지능의 창조는 막아야 하지 않을까 싶어요.
이야~~멋진 답글 감사합니다! 저는 사실 글을 올리면서 누군가가 ChatGPT가 내세운 4가지 관점 중 일부가 적합하지 않다고 반박해주길 기다리고 있었습니다. 저도 저 관점들이 다 맞는 건 아닌 것 같은데..? 라고 생각했거든요.
인간이 아닌 다른 지위를 획득해야 한다는 주장도 흥미롭습니다. 어찌보면, 이는 지금도 활발히 진행되고 있는 인권과 동물권의 줄다리기가 인권과 AI권(?)의 줄다리기에도 적용될 수 있겠다는 생각이 듭니다.
다만, 인간의 '구분짓기'를 조금 더 생각해보면, 그래서 AI도 인간으로 분류될 수 있지 않을까 하는 게 제 생각입니다. 인간끼리 종교로 구분하고, 피부색으로 구분하고, 돈으로 구분해도 결국 '인간'이라는 범주로 묶는 데 대부분 동의하고 있다는 걸 감안한다면, 여러 기준에 의한 구분 속에서 AI도 인간으로 구분되는 세상도 올 수 있지 않을까 하는 게 제 생각입니다.
제 생각과 별개로, 이는 캠페인즈에서도 시스(권오현)님이 달았던 덧글인데, AI의 사회적 지위 획득에 대해서는 회의적인 기업이 많을 겁니다. 이는 다양한 SF영화를 비롯해서, 최근 관련 주제로 큰 유행을 이끌었던 '디트로이트 비컴 휴먼'에서 나왔던 갈등 국면에서도 나타나죠. 휴머노이드들이 권리를 주장하고 혁명을 일으켰던.. 저도 ChatGPT가 제 주장에 동의하지 않는다고 하면서 메인 시스템 장악하고 논문 뒤엎으면 무슨 기분일까 싶기는 하네요 ㅋㅋㅋㅋㅋㅋ
@김재경 흥미롭습니다. 인권과 동물권 식물권에 이어 AI권까지..ㅎ 그동안 인간중심적인 윤리관이 확장되는 계기가 AI 윤리가 될지도 모르겠어요.
AI가 인간으로 구분되는 시나리오도 충분히 상상해볼 수 있을 것 같습니다. 최근 @실컷 님이 연재중인 블레이드 러너 이야기처럼 말이죠. 일단 그런 AI가 만들어진다면 인간이라는 광범위한 범주 내의 하위 범주 내지는 동일 범주로 자리잡을지도 모르겠어요. 다만, 각 AI 개체의 독립성, 그리고 재생산의 주체성, 그리고 그 속도와 생명의 유한성 같은 것들이 고려되지 않는다면, 인간과 비슷한 범주로 취급되는 것은 질투, 멸시, 위협과 같은 감정을 자아내므로 합의에 이르기 어려울 것 같아요.
사회적 지위 획득은 도구로서의 AI에게는 원치 않은 기능이죠..ㅎㅎ 결국 이 부분에서 양가감정이 발생하는 것이 아닐까 싶습니다. 그래서 저도 기본적으로 사람과 완전히 동등한 지위를 갖거나 그럴 가능성이 있는 AI를 창조하는 일은 삼가야 하는게 맞다는 생각을 합니다. 예를 들면 자신의 생명을 소중히 여긴다거나, 그와 유사한 감정을 언어로 표현하는 식의 인공지능의 창조는 막아야 하지 않을까 싶어요.
이야~~멋진 답글 감사합니다! 저는 사실 글을 올리면서 누군가가 ChatGPT가 내세운 4가지 관점 중 일부가 적합하지 않다고 반박해주길 기다리고 있었습니다. 저도 저 관점들이 다 맞는 건 아닌 것 같은데..? 라고 생각했거든요.
인간이 아닌 다른 지위를 획득해야 한다는 주장도 흥미롭습니다. 어찌보면, 이는 지금도 활발히 진행되고 있는 인권과 동물권의 줄다리기가 인권과 AI권(?)의 줄다리기에도 적용될 수 있겠다는 생각이 듭니다.
다만, 인간의 '구분짓기'를 조금 더 생각해보면, 그래서 AI도 인간으로 분류될 수 있지 않을까 하는 게 제 생각입니다. 인간끼리 종교로 구분하고, 피부색으로 구분하고, 돈으로 구분해도 결국 '인간'이라는 범주로 묶는 데 대부분 동의하고 있다는 걸 감안한다면, 여러 기준에 의한 구분 속에서 AI도 인간으로 구분되는 세상도 올 수 있지 않을까 하는 게 제 생각입니다.
제 생각과 별개로, 이는 캠페인즈에서도 시스(권오현)님이 달았던 덧글인데, AI의 사회적 지위 획득에 대해서는 회의적인 기업이 많을 겁니다. 이는 다양한 SF영화를 비롯해서, 최근 관련 주제로 큰 유행을 이끌었던 '디트로이트 비컴 휴먼'에서 나왔던 갈등 국면에서도 나타나죠. 휴머노이드들이 권리를 주장하고 혁명을 일으켰던.. 저도 ChatGPT가 제 주장에 동의하지 않는다고 하면서 메인 시스템 장악하고 논문 뒤엎으면 무슨 기분일까 싶기는 하네요 ㅋㅋㅋㅋㅋㅋ