엔비디아가 GPU를 프로그래머에게 개방하자 CUDA가 AI 해자(moat)가 되었다

CUDA 이전에 GPU는 주로 그래픽 가속기였다. 2006년 11월, 엔비디아는 개발자들이 그래픽 칩에서 비그래픽 워크로드를 실행할 수 있도록 CUDA를 발표했으며, 이는 픽셀만이 아니라 병렬 연산에도 GPU를 사용하는 것이었다.

그 소프트웨어적 결정은 엔비디아의 비즈니스 구조를 바꿨다. 엔비디아는 칩을 상호 교체 가능한 부품으로 판매하는 대신, 라이브러리, 툴링, 하위 호환성을 갖춘 개발자 플랫폼을 구축했다.

그 성과는 AI와 가속 컴퓨팅이 확장되면서 가시화되었다. 엔비디아의 FY2026 제출 서류는 CUDA를 자사 GPU 전반에 걸친 기반 개발 플랫폼으로 설명했으며, 매출은 전년 대비 65% 증가한 2,159억 달러에 달했다.

엔비디아는 FY2026 매출이 65% 증가한 2,159억 달러라고 보고했으며, CUDA는 자사 컴퓨팅 플랫폼의 기반으로 설명되었다.

CUDA는 GPU를 과학자, 엔지니어, 그리고 나중에는 AI 연구자들이 동일한 하드웨어 제품군을 재사용할 수 있을 만큼 프로그래밍 가능하게 만들었다.

독점 소프트웨어 스택은 원시 칩 벤치마크만으로는 만들 수 없었던 전환 비용을 높였다.

AI 물결 이전에 투자함으로써 엔비디아는 단순한 부품 카탈로그가 아니라 생태계로 수요에 대응할 수 있었다.

개발자들이 각각의 새 칩을 더 쉽게 도입할 수 있게 하는 안정적인 소프트웨어 계층을 얻을 때 하드웨어 레버리지는 복리로 커진다.

CUDA는 엔비디아의 데이터센터, AI, 과학 컴퓨팅, 그래픽 사업 전반을 연결하는 조직이 되었다. 경쟁사들은 가속기를 만들 수 있었지만, 개발자들은 이미 엔비디아의 소프트웨어 스택을 중심으로 워크플로를 구축해 둔 상태였다.