2022/08/03
인공지능이 지능을 가질 수 있냐, 없냐 판단하는 것은 아직은 시기상조라고 생각합니다.
얼룩소 시리즈를 보던 중, 1년전 봤던 괴델의 불완전성의 정리에 대한 유튜브 영상이 떠오름과 동시에, 튜링 기계가 이 문제와 관련이 있을 수 있겠다는 직감이 들었습니다. 그래서 급하게 괴델의 불완전성 정리를 유튜브보다는 조금 더 자세히 느낌만 알아보자, 하는 생각과 1930년대부터 기계가 지능을 가질 수 있다고 주장했던 튜링의 논문과 강연록을 읽어보고 있습니다. (자세히 찾아보니 주목할만한 관계가 있어서 스스로에게 대견스러워하고 있습니다. ㅎㅎㅎ) 또, 다행히 친구 중에 인지심리학을 공부함에도 행동심리학을 어느 정도 알고 있기도하고, 특히 인공지능에 관심이 많지는 않지만 적당히 있는 친구가 있어서 여러 가지 물어보는 시간을 가졌습니다.
일단, 저는 뇌과학을 전공하지 않는 비전공자이며, 전공자인 친구에게(그래봤자 학부생이고, 연구실에서 연구를 1개 진행해본게 전부인) 들은 내용이 전부입니다.
1. 아직 우리 신체 기관(뇌를 포함해)을 완벽히 모방한 적이 없고, 완벽히 밝혀지지도 않았습니다.
지능에 가장 연관된, 아니 모든 부분을 담당하는 뇌의 메커니즘은 아직 모두 밝혀지지 않았습니다. 친구의 말에 따르면, 현재 인공신경망처럼, 뉴런 사이의 연결 강도와 연결 관계가 지능에 상당 부분 기여하는 것은 맞다고 합니다. 그러나, 이러한 신경망 이외의 많은 메커니즘이 있다고 추측되며, 뒤에서도 다루겠지만, 감정의 원리는 아직까지 깔끔하게 밝혀지지 않은 상태입니다.
즉, 지능이 "있을 수 없다"라고 말하기 전에, 뇌의 구조와 역할부터 분명히 규명하는게 우선되어야 하는게 아닌가 궁금합니다.
2. 지능과 의식은 단지 신경 세포의 총합에 불과합니다.
마음(영혼)이 있고, 몸이 따로 있다고 주장하는...
얼룩소 시리즈를 보던 중, 1년전 봤던 괴델의 불완전성의 정리에 대한 유튜브 영상이 떠오름과 동시에, 튜링 기계가 이 문제와 관련이 있을 수 있겠다는 직감이 들었습니다. 그래서 급하게 괴델의 불완전성 정리를 유튜브보다는 조금 더 자세히 느낌만 알아보자, 하는 생각과 1930년대부터 기계가 지능을 가질 수 있다고 주장했던 튜링의 논문과 강연록을 읽어보고 있습니다. (자세히 찾아보니 주목할만한 관계가 있어서 스스로에게 대견스러워하고 있습니다. ㅎㅎㅎ) 또, 다행히 친구 중에 인지심리학을 공부함에도 행동심리학을 어느 정도 알고 있기도하고, 특히 인공지능에 관심이 많지는 않지만 적당히 있는 친구가 있어서 여러 가지 물어보는 시간을 가졌습니다.
일단, 저는 뇌과학을 전공하지 않는 비전공자이며, 전공자인 친구에게(그래봤자 학부생이고, 연구실에서 연구를 1개 진행해본게 전부인) 들은 내용이 전부입니다.
1. 아직 우리 신체 기관(뇌를 포함해)을 완벽히 모방한 적이 없고, 완벽히 밝혀지지도 않았습니다.
지능에 가장 연관된, 아니 모든 부분을 담당하는 뇌의 메커니즘은 아직 모두 밝혀지지 않았습니다. 친구의 말에 따르면, 현재 인공신경망처럼, 뉴런 사이의 연결 강도와 연결 관계가 지능에 상당 부분 기여하는 것은 맞다고 합니다. 그러나, 이러한 신경망 이외의 많은 메커니즘이 있다고 추측되며, 뒤에서도 다루겠지만, 감정의 원리는 아직까지 깔끔하게 밝혀지지 않은 상태입니다.
즉, 지능이 "있을 수 없다"라고 말하기 전에, 뇌의 구조와 역할부터 분명히 규명하는게 우선되어야 하는게 아닌가 궁금합니다.
2. 지능과 의식은 단지 신경 세포의 총합에 불과합니다.
마음(영혼)이 있고, 몸이 따로 있다고 주장하는...
.jpg)
@몬스님
소식을 얻는 용도로 SNS를 해야하나 고민이 되네요..! 고맙습니다! ㅎㅎㅎ
@서툰댄서님
사실 튜링이 생각했던 개념을 조금 더 공부해보고나서 쓰려고 했고 그런 글을 쓰려고했는데 이게 단기간으로 될 양이 절대 아닌거 같다는 생각이 들었어요.
그래서 원래 생각했던 글은 아니라 많이 부족하고 추측에 가까운 글입니다. 저도 앞으로 전공 공부하면서도 이번기회에 AI에 대해서 꾸준히 알아보기라도 할 것같아요! 전 찬성합니당 ㅎㅎㅎ
약속대로 쓰셨군요. 재미있게 잘 읽었습니다.
중국어 방 논증의 경우에는 소개해 주신 반론이 더 설득력이 있는 것 같아요. 중국어 방은 중국어를 모르는 사람과 그 사람이 보는 책으로 이루어져 있는데 책을 빼놓고 사람만 생각해서 중국어를 모른다고 하는 건 인간중심적 사고의 한 예인 것 같습니다. 책이라는 표현도 좀 수상하구요. 책만을 참조해서 온전한 번역이 가능할까요?
컴퓨터를 cpu와 동일시하면서 데이터는 디스크에 있으니까 컴퓨터는 데이터를 알지 못한다는 거랑도 약간(약간입니다. 더 좋은 비유가 있을 것 같네요) 비슷한 것 같아요.
다만 람다가 언어를 이해하는가 하는 문제는 좀 다른데 몬스님 의견처럼 의식을 산출해낼 단계는 아닌 것 같아요. 연산 능력보다도 자율적인 목적 설정 체계랄까, 의식에 필요한 뭔가가 빠진 것 같습니다.
튜링테스트의 의미가 약간 오해를 가져올 수 있다고 생각하는데, 이 문제에 대해 더 생각해보면 재미있을 것 같습니다.
뇌과학과 인공지능에 흥미를 가진 비공식 얼룩소 분파를 결성해 보면 어떨까 합니다. 일단 3명 멤버는 있는 듯. ^^
@이민수님.
역시나 좋아하실 줄 알았습니다! 이대열 교수님이 쓰신 '지능의 탄생'이라는 책을 보면, 뇌를 생명의 대리인 개념으로 설명하고 있죠. 이렇게 생명과 대리인을 구분하여 생각해 왔기 때문에, 생명의 목적 자체에 더 큰 비중을 두고 지능에 대한 글을 작성하신 것은 아닐까 조심스레 추측해 봅니다..ㅎ
기계의 지능의 영역은 추측의 영역이자, 결정의 영역이기도 한 것 같습니다. 저도 기술적으로는 기계가 지능이라고 정의할 수 있는 것을 가질 수 있다는 생각을 갖고 있습니다만, 그래야할 것인가에 대해서는 조금 조심스러운 생각을 갖고 있어요..
강연 정보는 지인 + SNS + 책으로 찾는 것 같아요. 관심있는 학자나 단체를 팔로우 해두면 쏠쏠한 정보들이 꽤 많이 흘러들어오는 것 같습니다 ^^
@bcreative1660님.
AI의 지능이 꽤나 자연스럽게 문장들을 나열할 수 있을 정도로 발전했다는 것에 동의합니다. 다만, 이런 경우를 생각해 볼 수 있을 것 같아요. 아무리 자연스러운 대화가 오고가도 지능적인 것이라고 볼 수 없는 경우가 있지요. 예를 들면, 인공지능 스피커 끼리 대화를 시켜본다면 둘 사이에 어느 정도 대화는 오고 가겠지만, 유의미한 대화 예를 들면 방향성과 확장성을 가지며, 연속적이면서도 도약이 있는 대화가 오고가며 그것이 실제로 그들과 그들을 둘러싼 것들에게 영향력을 지니는 대화를 기대하기는 힘들텐데요. 그건 AI에게는 목적도, 그것을 수행할 수단도, 본인과 타인을 규정하는 자아도, 기억을 쌓아나가는 연속성도, 서로 다른 정보를 취합하여 통찰하는 능력도 없기 때문이 아닐까 싶어요.
따라서 방대한 양의 정보로 학습한다는 것이 자연스러운 대화 또는 지식의 집적을 넘어서기 위해서는 '목적'과 '수단', 그리고 그것이 서로 상호작용하며 서로를 재설정하는 과정들에 대한 이해가 필요하다고 생각합니다.
안녕하세요 뭣하나 아는 것도 없이 댓글 다는 것 같아 죄송스럽긴 합니다만.. "지능"을 위한 AI를 위해서는 "엄청나게 방대한" 데이터베이스와 "강력한" 연산속도, 그 외에 몇가지 조건들이 필요할 것 같다고 하셨는데.. 제 생각에는 그 조건들이 이미 갖추어지지 않았나 싶어서요.
단지 인간의 뇌가 뇌세포의 집적 단계에서 해명되지 않은 부분이 있다고 해서 AI의 두뇌도 인간의 뇌라고 할 만큼의 집적을 이루어주지 않은 채 성능 테스트를 하고 있을 뿐 아닌가 하는 생각이 드네요. 개인적으론 그냥 "집적"부터 해보면 어떨까라는 생각을 하곤 합니다. 그저 작동이 되게끔 집적을 하는 것만으로도 아마 엄청난 성공과 실패를 맛보게 될것이며 그 속에서 배우는 방대한 양의 정보는 인간의 뇌세포 -> 뇌 의 공부에도 직/간접적 영향을 끼치게 될 것이란 생각이 드네요.
헐... 너무 재밌게 보고 있어요!! 일단 이대열 교수님 파트만 봤는데 뭔가 음... 일부러 이렇게 글을 쓰신 것 같긴하고, 머릿속이 아직은 정리가 잘 안되네요!
솔직히 아직까지 기계가 지능이나 의식을 가질 수 있다 없다는 추측의 영역인 것 같습니다. 튜링도 자신은 이렇게 생각하지만 추측이라면서, 추측은 어떤 학자가 다음 연구를 위한 동기를 마련해준다며 무조건 안된다고 하면 안된다라고 하더라구요.
앗 그리고 이런건 어떻게 찾으시는지 알 수 있을까요? 소중한 댓글 고맙습니다!
역시나 흥미로운 글 잘 읽었습니다!
사람과 같은 '지능'을 AI에게 기대하기 위해서는 엄청나게 방대한 데이터베이스와 강력한 연산 능력 외에도 몇 가지 조건들이 필요해 보입니다. 예를 들면, 다음과 같은 것들이 필요해보이는데요.
- 스스로 목적을 설정할 수 있음
- 그러한 목적이 스스로를 구분짓기 위한, 또는 유지하기 위한 것에 해당함
- 그러한 목적을 위해 가용할 수 있는 온/오프라인 환경을 갖고 있거나 학습할 수 있음
단순히 질문에 대답하는 것이 아닌, 자신의 '자아' 또는 '재생산'을 위해 생각하고 행동하며 상호작용할 수 있는 능력이 '지능'으로 보이는 것의 본질이 아닐까 하는 생각이 들어요.
혹시, 세상에서 가장 쓸데없는 기계 (The most useless machine)이라고 들어보셨나요. 한번쯤 보셨을 법 한 기계인데요. 스위치를 켜려고 하면 스스로 꺼버리는 쓸모없는 기계인데, 계속해서 보고 있으면 묘한 느낌이 드는 게 특징이에요. 로직은 정말 단순해 보이지만 왠지모를 생명력이 느껴진다고나 할까요ㅎㅎ
https://www.youtube.com/watch?v=Nqk_nWAjBus
기계가 스스로를 지키거나, 규정하려고 한다면 그 어떤 단순한 알고리즘이던 간에 묘한 감정을 불러일으킬 수 있는 것 같아요..
아, 그리고 이대열 교수님이 등장하는 강연을 최근 들었는데요. 혹시 민수님도 관심 있는 내용일지도 모르겠다는 생각이 들어서 공유해봐요~
https://www.youtube.com/watch?v=oXp97-4aNIc
(저는 특히 세션3 합동토론 파트가 흥미로웠어요ㅎㅎ)
@몬스님
소식을 얻는 용도로 SNS를 해야하나 고민이 되네요..! 고맙습니다! ㅎㅎㅎ
@서툰댄서님
사실 튜링이 생각했던 개념을 조금 더 공부해보고나서 쓰려고 했고 그런 글을 쓰려고했는데 이게 단기간으로 될 양이 절대 아닌거 같다는 생각이 들었어요.
그래서 원래 생각했던 글은 아니라 많이 부족하고 추측에 가까운 글입니다. 저도 앞으로 전공 공부하면서도 이번기회에 AI에 대해서 꾸준히 알아보기라도 할 것같아요! 전 찬성합니당 ㅎㅎㅎ
약속대로 쓰셨군요. 재미있게 잘 읽었습니다.
중국어 방 논증의 경우에는 소개해 주신 반론이 더 설득력이 있는 것 같아요. 중국어 방은 중국어를 모르는 사람과 그 사람이 보는 책으로 이루어져 있는데 책을 빼놓고 사람만 생각해서 중국어를 모른다고 하는 건 인간중심적 사고의 한 예인 것 같습니다. 책이라는 표현도 좀 수상하구요. 책만을 참조해서 온전한 번역이 가능할까요?
컴퓨터를 cpu와 동일시하면서 데이터는 디스크에 있으니까 컴퓨터는 데이터를 알지 못한다는 거랑도 약간(약간입니다. 더 좋은 비유가 있을 것 같네요) 비슷한 것 같아요.
다만 람다가 언어를 이해하는가 하는 문제는 좀 다른데 몬스님 의견처럼 의식을 산출해낼 단계는 아닌 것 같아요. 연산 능력보다도 자율적인 목적 설정 체계랄까, 의식에 필요한 뭔가가 빠진 것 같습니다.
튜링테스트의 의미가 약간 오해를 가져올 수 있다고 생각하는데, 이 문제에 대해 더 생각해보면 재미있을 것 같습니다.
뇌과학과 인공지능에 흥미를 가진 비공식 얼룩소 분파를 결성해 보면 어떨까 합니다. 일단 3명 멤버는 있는 듯. ^^
@이민수님.
역시나 좋아하실 줄 알았습니다! 이대열 교수님이 쓰신 '지능의 탄생'이라는 책을 보면, 뇌를 생명의 대리인 개념으로 설명하고 있죠. 이렇게 생명과 대리인을 구분하여 생각해 왔기 때문에, 생명의 목적 자체에 더 큰 비중을 두고 지능에 대한 글을 작성하신 것은 아닐까 조심스레 추측해 봅니다..ㅎ
기계의 지능의 영역은 추측의 영역이자, 결정의 영역이기도 한 것 같습니다. 저도 기술적으로는 기계가 지능이라고 정의할 수 있는 것을 가질 수 있다는 생각을 갖고 있습니다만, 그래야할 것인가에 대해서는 조금 조심스러운 생각을 갖고 있어요..
강연 정보는 지인 + SNS + 책으로 찾는 것 같아요. 관심있는 학자나 단체를 팔로우 해두면 쏠쏠한 정보들이 꽤 많이 흘러들어오는 것 같습니다 ^^
@bcreative1660님.
AI의 지능이 꽤나 자연스럽게 문장들을 나열할 수 있을 정도로 발전했다는 것에 동의합니다. 다만, 이런 경우를 생각해 볼 수 있을 것 같아요. 아무리 자연스러운 대화가 오고가도 지능적인 것이라고 볼 수 없는 경우가 있지요. 예를 들면, 인공지능 스피커 끼리 대화를 시켜본다면 둘 사이에 어느 정도 대화는 오고 가겠지만, 유의미한 대화 예를 들면 방향성과 확장성을 가지며, 연속적이면서도 도약이 있는 대화가 오고가며 그것이 실제로 그들과 그들을 둘러싼 것들에게 영향력을 지니는 대화를 기대하기는 힘들텐데요. 그건 AI에게는 목적도, 그것을 수행할 수단도, 본인과 타인을 규정하는 자아도, 기억을 쌓아나가는 연속성도, 서로 다른 정보를 취합하여 통찰하는 능력도 없기 때문이 아닐까 싶어요.
따라서 방대한 양의 정보로 학습한다는 것이 자연스러운 대화 또는 지식의 집적을 넘어서기 위해서는 '목적'과 '수단', 그리고 그것이 서로 상호작용하며 서로를 재설정하는 과정들에 대한 이해가 필요하다고 생각합니다.
안녕하세요 뭣하나 아는 것도 없이 댓글 다는 것 같아 죄송스럽긴 합니다만.. "지능"을 위한 AI를 위해서는 "엄청나게 방대한" 데이터베이스와 "강력한" 연산속도, 그 외에 몇가지 조건들이 필요할 것 같다고 하셨는데.. 제 생각에는 그 조건들이 이미 갖추어지지 않았나 싶어서요.
단지 인간의 뇌가 뇌세포의 집적 단계에서 해명되지 않은 부분이 있다고 해서 AI의 두뇌도 인간의 뇌라고 할 만큼의 집적을 이루어주지 않은 채 성능 테스트를 하고 있을 뿐 아닌가 하는 생각이 드네요. 개인적으론 그냥 "집적"부터 해보면 어떨까라는 생각을 하곤 합니다. 그저 작동이 되게끔 집적을 하는 것만으로도 아마 엄청난 성공과 실패를 맛보게 될것이며 그 속에서 배우는 방대한 양의 정보는 인간의 뇌세포 -> 뇌 의 공부에도 직/간접적 영향을 끼치게 될 것이란 생각이 드네요.
헐... 너무 재밌게 보고 있어요!! 일단 이대열 교수님 파트만 봤는데 뭔가 음... 일부러 이렇게 글을 쓰신 것 같긴하고, 머릿속이 아직은 정리가 잘 안되네요!
솔직히 아직까지 기계가 지능이나 의식을 가질 수 있다 없다는 추측의 영역인 것 같습니다. 튜링도 자신은 이렇게 생각하지만 추측이라면서, 추측은 어떤 학자가 다음 연구를 위한 동기를 마련해준다며 무조건 안된다고 하면 안된다라고 하더라구요.
앗 그리고 이런건 어떻게 찾으시는지 알 수 있을까요? 소중한 댓글 고맙습니다!
역시나 흥미로운 글 잘 읽었습니다!
사람과 같은 '지능'을 AI에게 기대하기 위해서는 엄청나게 방대한 데이터베이스와 강력한 연산 능력 외에도 몇 가지 조건들이 필요해 보입니다. 예를 들면, 다음과 같은 것들이 필요해보이는데요.
- 스스로 목적을 설정할 수 있음
- 그러한 목적이 스스로를 구분짓기 위한, 또는 유지하기 위한 것에 해당함
- 그러한 목적을 위해 가용할 수 있는 온/오프라인 환경을 갖고 있거나 학습할 수 있음
단순히 질문에 대답하는 것이 아닌, 자신의 '자아' 또는 '재생산'을 위해 생각하고 행동하며 상호작용할 수 있는 능력이 '지능'으로 보이는 것의 본질이 아닐까 하는 생각이 들어요.
혹시, 세상에서 가장 쓸데없는 기계 (The most useless machine)이라고 들어보셨나요. 한번쯤 보셨을 법 한 기계인데요. 스위치를 켜려고 하면 스스로 꺼버리는 쓸모없는 기계인데, 계속해서 보고 있으면 묘한 느낌이 드는 게 특징이에요. 로직은 정말 단순해 보이지만 왠지모를 생명력이 느껴진다고나 할까요ㅎㅎ
https://www.youtube.com/watch?v=Nqk_nWAjBus
기계가 스스로를 지키거나, 규정하려고 한다면 그 어떤 단순한 알고리즘이던 간에 묘한 감정을 불러일으킬 수 있는 것 같아요..
아, 그리고 이대열 교수님이 등장하는 강연을 최근 들었는데요. 혹시 민수님도 관심 있는 내용일지도 모르겠다는 생각이 들어서 공유해봐요~
https://www.youtube.com/watch?v=oXp97-4aNIc
(저는 특히 세션3 합동토론 파트가 흥미로웠어요ㅎㅎ)