2023/03/17
촘스키(와 그 공저자들)의 머신러닝 비판을 두번 읽어보았습니다.
처음 읽었을 때의 느낌은 노대가 분이 21세기 최첨단의 기술에 대해 비판을 내놓으시는 것에 대한 경탄이었습니다. 촘스키 옹께서 태어나신 해가 1928년이라고 하니, 올해 만으로 95세가 되십니다. 이 연세에 새로운 지식을 배우고 그에 대한 의견을 주장하신다니, 멋지신 것 같습니다. 처음에 대략 읽어보기엔 차분하고 논리적으로 귀담아들을 만한 주장을 펼치신다는 느낌이었습니다. 귀담아들을 만한 주장이니 뉴욕타임즈에 실리기도 하는 것이겠지요.
하지만 얼룩소 대문에 걸린 걸 보고 두번째 읽을 때의 인상은 주장의 포인트가 애매하고 논거가 불명확하다는 것이었습니다. 대문에 걸려 있는 시간이 지나가 타이밍을 좀 잃긴 했지만, 이에 대한 제 생각들을 이야기해 보고자 합니다.
주장의 포인트가 애매하다는 것은 결국 무엇을 주장하려는 것인지 메시지가 불명확하다는 것입니다.
처음 읽었을 때의 느낌은 노대가 분이 21세기 최첨단의 기술에 대해 비판을 내놓으시는 것에 대한 경탄이었습니다. 촘스키 옹께서 태어나신 해가 1928년이라고 하니, 올해 만으로 95세가 되십니다. 이 연세에 새로운 지식을 배우고 그에 대한 의견을 주장하신다니, 멋지신 것 같습니다. 처음에 대략 읽어보기엔 차분하고 논리적으로 귀담아들을 만한 주장을 펼치신다는 느낌이었습니다. 귀담아들을 만한 주장이니 뉴욕타임즈에 실리기도 하는 것이겠지요.
하지만 얼룩소 대문에 걸린 걸 보고 두번째 읽을 때의 인상은 주장의 포인트가 애매하고 논거가 불명확하다는 것이었습니다. 대문에 걸려 있는 시간이 지나가 타이밍을 좀 잃긴 했지만, 이에 대한 제 생각들을 이야기해 보고자 합니다.
주장의 포인트가 애매하다는 것은 결국 무엇을 주장하려는 것인지 메시지가 불명확하다는 것입니다.
이런 시스템들이 윤리성은 부재하고 언어학적으로도 무능한 가짜 과학이라는 점을 생각하면, 이들의 열풍에 그저 웃거나 울 밖에 도리가 없다.
마지막 문장을 결론으로 간주한다면, 윤리성이 부재하고 언어학적으로도 무능하다는 가짜 과학이라는 것이 무슨 뜻인지, 이들의 열풍에 웃거나 울 수밖에 없다는 것은 무슨 뜻인지 이해하기 어렵습니다. 예를 들어 1차 산업혁명을 가져온 증기기관이나 2차 산업혁명을 가져온 전기시스템을 두고 윤리성이 부재하다고 해서 그에 대해 웃거나 울 수밖에 없다고 얘기하는 것은 어색합니다. 또한 이들 시스템은 언어학적으로 아마도 무능하겠지만(증기기관한테 언어학적 능력을 기대할 수는 없겠지요) 그렇다고 무능한 가짜과학이라고 부르지는 않습니다. 도대체 이야기하고자 하는 것이 무엇일까요?
어떤 기술의 열풍에 웃거나 울 수밖에 없다는 이야기의 뜻을 짐작해 보자면, 이 기술이 많은 사람들의 관심의 대상이 되고 있는 만큼 세상에 영향을 미치지 못할 것이라는 뜻이지 않을까 합니다. ChatGPT나 그와 유사한 기술을 적용한 제품이나 서비스들이 ...
궁금하고 의미있다고 생각하는 주제에 대해 배우고자 노력하고, 깨달아지는 것이 있으면 공유하고 공감을 구하는 평범한 사람입니다.
.jpg)
소풍 가고 싶네요…. 애 학교 가는데 주말 수업은 도시락 싸요…. 이제 그런 시대가 되었으니 다시 시작합니다! …?????? ㅋㅋㅋㅋㅋㅋ 행복한 주말 보내세요!
@서툰댄서
@홈은 도시락 싸서 피크닉 가시나요? ^^
피피티 예쁘게 잘 못 만들어서 고생했었는데 시대를 잘못 타고 났나봐요.
오 이런글 너무 좋아요.
엠에스의 오피스365의 ai가 피피티를 만들어준다는 기사를 보고 이젠 엑셀도 말로 가능한 시대가 곧 오겠구나. 수식에서 해방된 도비들이 많아지면 수학적역량이 부족했던 사람들도 인공지능의 도움으로 좋은 데이터로 자료를 만들어 성과를 낼 수도 있겠구나, 교육청에서 오피스365를 학생들에게 무료로 제공하고 있는데 당장 올 하반기 애들 산출물에 어떤 결과물들이 나올지 기대되네요. 누가 인공지능을 사용할까요. 한국 학교는 구분할 수 있을까요?.. 뭐 그런 쓰잘데없는 생각 중이었… 뭐 그런 생각을 하며 밥을 하다가 (토욜 아침에 도시락 쌉니다… ) 들왔는데 오길 잘했네요 ㅎㅎㅎ
언어를 포함한 인간의 사회적 기호를 사용하고 해석하고 재배치 하는 모든 방식에 영향을 미칠 것 같아요!!!!!
@몬스 사실 통계로 chatgpt 수준의 답변을 만들어낸다는 게 잘 이해가 되진 않거든요. 뭔가 어휘나 문법적 지식에 해당하는 모델을 학습으로 채워넣고 그걸 응용하는 방식이 얼핏 더 제 직관에 부합하는 거 같은데. 더 공부를 해봐야겠어요. 의도에 따라 방향성을 부여한다는 것이 알 듯 말 듯 합니다. 제가 이해하는 머신러닝 개념에 뭔가 더해진 것 같은데 그 부분을 이해하면 인간이 언어를 사용하는 방식에도 새롭게 생각해 볼 수 있을 것 같아요.
거대 말뭉치를 통해 학습한 통계적인 모델에서 대화형 말투 및 사람의 선호성이라는 의도에 맞추어 방향성을 더한 모델 정도로 이해해고 있습니다. 실제 챗지피티는 본인의 니즈(데이터셋)에 맞게 미세조정이 가능한 형태의 api를 제공한다고 들었어요.
이런식으로 미세조정이 가능하다는 것도 이 밋밋하지 않은 통계모형이 꽤나 언어의 특성을 잘 잡아낸 모델이 아닐까 생각해봅니다.
@몬스 지식이 깊지 않아 충분한 반론이 되었는지 모르겠지만, 말씀하신 것처럼 통계적 모델은 인간의 진정한 지성에 비해 밋밋한 것이라는 편견이 있었던 글이 아닌가 싶고, 그 밋밋하지 않음이 주목할 부분인 것 같습니다. chatGPT가 어느 정도까지 순수한 통계모델이고 나머지 부분은 어떤 알고리즘들이 채우고 있는지 궁금하네요. 조만간 공부를 해봐야겠어요.
저도 비슷한 의견입니다. 통계적 모델이라고 하여 밋밋한 건 아니라고 생각합니다. 그 밋밋하지 않음이 그럴싸한 말을 만들어낸다는 것에 오히려 주목해볼 일이 아닌가 싶습니다. 그리고 그것이 분명 우리가 사고하는 방식과 가까워지고 있다는 건 부정할 수 없는 사실이구요.
그럼에도 불구하고를 지적하고자 한 것이라면 분명 의미있게 생각해볼 부분이 있었지만, 서툰댄서님이 인용하신 부분처럼 강한 비관을 비추기엔 조금 핀트가 어긋난 글이 아니었나 싶습니다..
@김재경 원글을 보고 같은 생각을 하신 부분이 많으시다니 좀 든든해지는 기분입니다. ^^ 감사합니다.
저와 같은 생각을 하신 부분이 많습니다. 사실, 저는 저자가 '수박 겉햩기'로 AI를 알고 있다고 많이 느껴지던 글이었습니다. 진짜 대화형 AI의 작동 원리를 세심하게 보지 않고, 그리고 더 나아가 AI의 특정 역할에 미리 정해둔 느낌까지 같이 받게 되네요. 특정 의견이나 집단을 비판하려는 성격이 강해 보이는 나머지, 일반적인 글로는 완성도가 떨어지지 않나 싶습니다. 답글 잘 읽고 갑니다~~
거대 말뭉치를 통해 학습한 통계적인 모델에서 대화형 말투 및 사람의 선호성이라는 의도에 맞추어 방향성을 더한 모델 정도로 이해해고 있습니다. 실제 챗지피티는 본인의 니즈(데이터셋)에 맞게 미세조정이 가능한 형태의 api를 제공한다고 들었어요.
이런식으로 미세조정이 가능하다는 것도 이 밋밋하지 않은 통계모형이 꽤나 언어의 특성을 잘 잡아낸 모델이 아닐까 생각해봅니다.
저와 같은 생각을 하신 부분이 많습니다. 사실, 저는 저자가 '수박 겉햩기'로 AI를 알고 있다고 많이 느껴지던 글이었습니다. 진짜 대화형 AI의 작동 원리를 세심하게 보지 않고, 그리고 더 나아가 AI의 특정 역할에 미리 정해둔 느낌까지 같이 받게 되네요. 특정 의견이나 집단을 비판하려는 성격이 강해 보이는 나머지, 일반적인 글로는 완성도가 떨어지지 않나 싶습니다. 답글 잘 읽고 갑니다~~
소풍 가고 싶네요…. 애 학교 가는데 주말 수업은 도시락 싸요…. 이제 그런 시대가 되었으니 다시 시작합니다! …?????? ㅋㅋㅋㅋㅋㅋ 행복한 주말 보내세요!
@서툰댄서
@홈은 도시락 싸서 피크닉 가시나요? ^^
피피티 예쁘게 잘 못 만들어서 고생했었는데 시대를 잘못 타고 났나봐요.
오 이런글 너무 좋아요.
엠에스의 오피스365의 ai가 피피티를 만들어준다는 기사를 보고 이젠 엑셀도 말로 가능한 시대가 곧 오겠구나. 수식에서 해방된 도비들이 많아지면 수학적역량이 부족했던 사람들도 인공지능의 도움으로 좋은 데이터로 자료를 만들어 성과를 낼 수도 있겠구나, 교육청에서 오피스365를 학생들에게 무료로 제공하고 있는데 당장 올 하반기 애들 산출물에 어떤 결과물들이 나올지 기대되네요. 누가 인공지능을 사용할까요. 한국 학교는 구분할 수 있을까요?.. 뭐 그런 쓰잘데없는 생각 중이었… 뭐 그런 생각을 하며 밥을 하다가 (토욜 아침에 도시락 쌉니다… ) 들왔는데 오길 잘했네요 ㅎㅎㅎ
언어를 포함한 인간의 사회적 기호를 사용하고 해석하고 재배치 하는 모든 방식에 영향을 미칠 것 같아요!!!!!
저도 비슷한 의견입니다. 통계적 모델이라고 하여 밋밋한 건 아니라고 생각합니다. 그 밋밋하지 않음이 그럴싸한 말을 만들어낸다는 것에 오히려 주목해볼 일이 아닌가 싶습니다. 그리고 그것이 분명 우리가 사고하는 방식과 가까워지고 있다는 건 부정할 수 없는 사실이구요.
그럼에도 불구하고를 지적하고자 한 것이라면 분명 의미있게 생각해볼 부분이 있었지만, 서툰댄서님이 인용하신 부분처럼 강한 비관을 비추기엔 조금 핀트가 어긋난 글이 아니었나 싶습니다..
@김재경 원글을 보고 같은 생각을 하신 부분이 많으시다니 좀 든든해지는 기분입니다. ^^ 감사합니다.