코드 한 줄로 엔비디아를 갈아탄다…CUDA 장벽에 금이 간 이유

구글과 아마존이 엔비디아의 가장 깊은 방어선을 정면으로 팠다. 10월 20일 미국 새너제이에서 열린 '파이토치 컨퍼런스 2026'에서 구글·메타 합작 '토치TPU(TorchTPU)'와 아마존의 '토치뉴런(TorchNeuron)'이 나왔다. 둘 다 코드의 장치 지정 한 줄만 바꾸면 엔비디아 GPU 대신 자체 칩에서 AI 모델을 돌리게 해주는 오픈소스다. CUDA 의존으로 이어져 온 그림이 흔들린다.

한 줄 고치면 남의 칩이 내 칩이 된다

기존 장벽은 소프트웨어였다. CUDA에 맞춰 쓴 코드를 구글 TPU나 AWS 트레이니엄으로 옮기는 데 며칠에서 수개월이 걸렸다고 디일렉이 보도했다. 두 도구는 이 비용을 사실상 0으로 만든다. `model.to('cuda')`를 `model.to('tpu')`로, `cuda`를 `neuron`으로 고치는 수준이다. 구글·메타는 허깅페이스 최다 다운로드 5,000개 모델이 수정 없이 TPU에서 실행되는 것을 검증했고, AWS는 다운로드 기준 실사용량의 99.9%를 커버하는 10만 개 모델을 트레이니엄에서 돌렸다.

85%가 쓰는 표준이 카드의 주인을 바꿨다

디일렉에 따르면 전 세계 AI 개발자의 약 85%가 파이토치를 쓴다. CUDA가 강한 까닭은 칩 성능만이 아니라 이 표준 도구가 엔비디아에 최적화돼 있었기 때문이다. 이제 그 표준의 안뜰로 TPU와 트레이니엄이 '네이티브 칩'으로 들어온다. 구글은 "파이토치 핵심 단에서 TPU를 GPU·CPU와 동등하게 동작시켰다"고 밝혔다. 규제가 아니라 고객의 편의가 장벽을 허물었다는 점에서, 시장 논리에 맞는 대응이다.