인공지능 산업이 급속도로 확장되면서 AI 전용 칩에 대한 수요도 폭발적으로 증가하고 있습니다. 지금까지는 Nvidia와 AMD 같은 대기업이 GPU 시장을 독점해왔지만, 최근에는 AI에 최적화된 독자 아키텍처를 개발하는 AI 칩 설계 스타트업들이 주목받고 있습니다.
이들은 기존 GPU 대비 빠른 연산, 낮은 소비 전력, 대규모 파라미터 처리에 특화된 구조로 AI 훈련 및 추론을 가속화하고 있습니다.
2. Graphcore | IPU로 주목받는 영국의 AI 칩 스타트업
Graphcore는 영국에 본사를 둔 AI 반도체 기업으로, 기존 GPU와는 전혀 다른 구조의 IPU(지능 처리 장치)를 개발했습니다. IPU는 AI 모델 학습과 추론에서 병렬처리 능력이 탁월하며, 특히 트랜스포머 기반 대형 언어 모델 처리에 강점을 보입니다.
현재 Microsoft, Baidu 등 글로벌 기업이 Graphcore의 칩을 테스트하거나 일부 활용 중이며, 클라우드 AI 가속 솔루션으로의 진출 가능성도 높게 점쳐지고 있습니다.
3. Cerebras Systems | 세계 최대 AI 칩 ‘Wafer Scale Engine’
미국 실리콘밸리에 위치한 Cerebras Systems는 AI 업계 최초로 웨이퍼 전체를 하나의 칩으로 사용하는 Wafer Scale Engine(WSE)을 개발했습니다. 이 칩은 무려 85만 개의 연산 코어와 40GB 이상의 온칩 메모리를 탑재하고 있으며, 단일 칩에서 GPT-4급 모델도 처리할 수 있습니다.
기존 서버 수십 대에서 처리하던 연산을 단일 칩으로 가능하게 만들며, 고성능 AI 트레이닝 시장에서 게임 체인저로 떠오르고 있습니다.
4. Tenstorrent | CPU와 AI 칩의 융합 설계
Tenstorrent는 전 AMD 및 Apple 출신 칩 설계자들이 설립한 캐나다 기반 스타트업으로, RISC-V 기반 AI 프로세서와 일반 CPU를 결합한 하이브리드 칩 설계를 선보이고 있습니다.
최근 삼성전자와의 파운드리 협력을 통해 칩 생산을 본격화하고 있으며, 엣지 디바이스와 데이터센터 양쪽 모두를 겨냥한 전략으로 주목받고 있습니다.
5. AI 칩 스타트업이 주는 투자 인사이트
현재 대부분의 AI 연산은 Nvidia의 CUDA 생태계에 의존하고 있지만, 그만큼 대안 아키텍처에 대한 시장의 갈증도 큽니다. Graphcore, Cerebras, Tenstorrent 같은 스타트업은 각기 다른 접근으로 고성능·저전력·고확장성 AI 칩을 실현하고 있으며, 이는 미래 AI 인프라의 다양성을 가져올 중요한 움직임입니다.
다만, 아직 비상장 기업이 많기 때문에 직접 투자보다는 관련 벤처캐피탈 펀드, 상장 파운드리 기업, 협력 대기업 등을 통해 간접적으로 포트폴리오를 구성하는 것이 현실적입니다.
6. 결론 | AI 반도체의 미래는 다양성에 있다
AI 기술이 한 방향으로만 진화하지 않듯, AI 하드웨어 또한 다양성이 중요해지고 있습니다. GPU, NPU, ASIC, IPU 등 각기 다른 칩 아키텍처가 경쟁·보완하며 AI 산업의 성장을 이끌고 있습니다.
Graphcore나 Cerebras와 같은 스타트업은 단순한 ‘대체재’가 아니라, 새로운 가능성의 제안입니다. AI 반도체 시장의 본질을 이해하고 장기적 관점에서 주목한다면, 향후 투자 기회로 연결될 수 있는 통찰력을 가질 수 있습니다.