앤트로픽 "LLM 작동 방식 첫 해석 성공...모델 조작도 가능"
앤트로픽이 처음으로 대형언어모델(LLM)의 내부 작동 방식을 자세히 들여다보는 데 성공했다고 밝혔다. 또 이를 통해 LLM을 조작한 사례도 공개했다. 이를 통해 LLM의 '블랙박스' 문제를 해결한 단서를 찾았다고 전했다.앤트로픽은 21일(현지시간) 홈페이지를 통해 'LLM의 마인드 매핑(Mapping the Mind of a LLM)'이라는 연구 결과를 공개했다.LLM이 작동하면 내부 상태는 명확한 의미가 없는 긴 숫자 목록(뉴런)으로 구성된다. 단어가 문자 결합으로 만들어지고, 문장이 단어 결합으로 만들어는 것과 같다. AI 모델
AI타임스
![신민기](https://alook.so/file_storages/representations/proxy/eyJfcmFpbHMiOnsibWVzc2FnZSI6IkJBaHBBOTRaRUE9PSIsImV4cCI6bnVsbCwicHVyIjoiYmxvYl9pZCJ9fQ==--615fc718a47c1a11f57cf8e448397d24daa602f9/eyJfcmFpbHMiOnsibWVzc2FnZSI6IkJBaDdDVG9MWm05eWJXRjBTU0lKYW5CbFp3WTZCa1ZVT2hKeVpYTnBlbVZmZEc5ZlptbDBXd2RtQ0RSbE1VQUlPZ3hqYjI1MlpYSjBTU0lJYW5CbkJqc0dWRG9LYzJGMlpYSjdDRG9NY1hWaGJHbDBlV2xWT2dwemRISnBjRlE2RDJKaFkydG5jbTkxYm1SYkNHa0IvMmtCLzJrQi93PT0iLCJleHAiOm51bGwsInB1ciI6InZhcmlhdGlvbiJ9fQ==--b1d5ec5839068353d84773639c01d1e4b2c2f51b/20240229_151038-01.jpeg)
1명이 이야기 중
이 토픽에서 뜨는 글
이해했다는 착각: 앤트로픽의 LLM 해석에 열광하는 이유