GPU와 AI 반도체: 칩(CHIP) 개념 알아보기 2편
2023/03/22
왜 연산능력(computing power)가 중요한가?
최근 Chat-GPT가 연일 화제이다. Open AI가 쏘아올린 공은 어디로 향하는가? GPT-4까지 발표되면서 초거대 AI 모델과 생성형 AI에 대한 관심이 크게 증가하였다. GPT-3은 파라미터 수만 1750억개에 달하고, 대규모 연산이 필요하기 때문에, 빠르게 연산을 처리할 수 있는 연산능력이 중요하다.
모빌리티의 경우에도 자율주행을 위해서는 빠른 연산력이 중요하다. 자율주행차량이 운행할 경우 영상과 같은 비디오와 라이다, 레이더 등 센서 데이터를 처리하게 되는데, 이때 빠른 연산을 통해 실시간에 최대한 가까운 연산력을 갖춰야 차량 주행 안전을 보장할 수 있기 때문이다.
테슬라의 경우 AI 반도체인 도조칩(Dojo-chip)을 자체 개발하여 빠른 연산을 통해 AI 모델을 활용한 FSD(Full self-driving) 기능을 강화하기 위한 노력을 기울이고 있다. 이외에도 GPU 대표업체인 엔비디아는 GPGPU(General-Purpose computing on Graphics Processing Units)라는 GPU의 확장모델을 개발하여 모빌리티 등 AI 분야에서 광범위하게 활용할 수 있는 기술생...
.jpg)
@Fred Kim 먼저 좋은 말씀주셔서 감사합니다. 말씀하신 두 내용 모두 맞는 말씀이십니다. AI 반도체는 GPU에 비해 보다 특화된 기능을 수행하게 되구요. GPGPU 역시 GPU에 비해 범용으로 활용될 수 있도록 고안된 기술입니다. 감사합니다.
금융 분야에 특화된 AI 반도체 예시를 드셨는데, 만약 이런 칩이 개발된다면 GPU에 비해 단순한 연산을 수행하는 것이 아니라 GPU의 각기 나뉘어있는 연산 유닛(fp64, 텐서 등)중에 금융에만 쓰이는 연산 유닛만을 따로 선별해 탑재될 겁니다. 이미 GPU는 단순한 연산만 수행합니다.
내용에 오류가 있습니다. "GPGPU를 통해 컴퓨터 그래픽을 위한 계산만을 담당하던 GPU에서 벗어나서 CPU가 맡았던 응용 프로그램(어플리케이션)의 작동을 위한 연산에도 활용할 수 있는 범용 모델이 고안되었다. " -> GPGPU는 컴퓨터 그래픽 계산용이 아닙니다.
@Fred Kim 먼저 좋은 말씀주셔서 감사합니다. 말씀하신 두 내용 모두 맞는 말씀이십니다. AI 반도체는 GPU에 비해 보다 특화된 기능을 수행하게 되구요. GPGPU 역시 GPU에 비해 범용으로 활용될 수 있도록 고안된 기술입니다. 감사합니다.
금융 분야에 특화된 AI 반도체 예시를 드셨는데, 만약 이런 칩이 개발된다면 GPU에 비해 단순한 연산을 수행하는 것이 아니라 GPU의 각기 나뉘어있는 연산 유닛(fp64, 텐서 등)중에 금융에만 쓰이는 연산 유닛만을 따로 선별해 탑재될 겁니다. 이미 GPU는 단순한 연산만 수행합니다.
내용에 오류가 있습니다. "GPGPU를 통해 컴퓨터 그래픽을 위한 계산만을 담당하던 GPU에서 벗어나서 CPU가 맡았던 응용 프로그램(어플리케이션)의 작동을 위한 연산에도 활용할 수 있는 범용 모델이 고안되었다. " -> GPGPU는 컴퓨터 그래픽 계산용이 아닙니다.