AI 파일럿 95%가 실패했다, 그래도 기업은 AX에 올인한다

기업 열 곳 중 아홉 곳이 실패했다. 그런데도 아무도 멈추지 않는다.

MIT가 지난해 발표한 보고서 '더 젠AI 디바이드(The GenAI Divide)'는 기업이 벌인 생성형 AI 시범사업의 95%가 손익에 이렇다 할 흔적을 남기지 못한 채 좌초했다고 결론지었다. 그러나 2026년 기업들의 선택은 후퇴가 아니라 전면전이었다. AI를 몇몇 부서에 '도입'하던 시대를 접고, 회사 전체를 AI로 다시 짜는 이른바 'AX(AI Transformation·인공지능 전환)'로 판을 키운 것이다. 실험이 끝난 자리에 청구서와 사활이 동시에 놓였다.

실험의 시대는 끝났다

2026년 기업 AI의 화두는 단연 '에이전틱 AI(Agentic AI)'다. 사람이 프롬프트를 하나하나 입력하는 도구를 넘어, AI가 목표를 받아 스스로 계획을 세우고 여러 단계의 업무를 실행하는 자율형 에이전트다. IT 의사결정권자 830명을 상대로 한 최근 조사에서 에이전틱 AI는 기업 기술 우선순위 1위에 올랐고, 응답자들은 "파일럿의 시대는 끝났다"고 입을 모았다.

숫자가 이를 뒷받침한다. 시장조사기관 가트너는 업무에 특화된 AI 에이전트를 탑재한 기업용 애플리케이션 비중이 2025년 5% 미만에서 2026년 말 40%까지 치솟을 것으로 내다봤다. 이미 기업 셋 중 하나가 최소 한 개 이상의 AI 에이전트를 실제 운영에 투입했고, 은행·보험업권에서는 그 비율이 절반에 육박한다. 맥킨지는 에이전트가 창출할 연간 경제가치를 2조6000억~4조4000억 달러로 추산했다.

추상적인 전망만 있는 것은 아니다. 회계법인 EY의 감사 플랫폼 '캔버스'는 150개국 16만 건의 감사 업무에서 연간 1조4000억 줄에 달하는 데이터를 처리하며 13만 명의 전문가 업무에 AI 오케스트레이션을 심었다. AI가 시연 무대에서 내려와 실제 생산 현장으로 들어섰다는 신호다.

그러나 청구서가 돌아오고 있다

문제는 열기와 성적표의 간극이다. IBM이 최고경영자들을 조사한 결과 기대한 만큼의 투자수익(ROI)을 낸 AI 사업은 넷 중 하나에 그쳤다. 가트너는 한 걸음 더 나아가, 현재 추진 중인 에이전틱 AI 프로젝트의 40% 이상이 비용 급증과 불분명한 성과, 취약한 거버넌스를 이유로 2027년 말까지 취소될 것이라고 경고했다. 단순한 자동화 기능에 '에이전트'라는 이름표만 붙여 파는 이른바 '에이전트 워싱(agent washing)'도 시장의 거품을 키우는 요인으로 지목된다.

실패의 원인은 대체로 모델의 성능이 아니라 조직에 있었다. MIT 연구진은 범용 챗봇이 개인 사용자에게는 유용하지만 기업의 고유한 업무 흐름을 학습하지 못해 정작 현업에서는 멈춰 선다는 점을 지적했다. 실제로 특정 분야 전문 기업과 손잡고 도입한 경우 성공률이 약 67%에 이른 반면, 자체 개발은 그 3분의 1 수준에 머물렀다.

거버넌스 공백은 더 근본적이다. 딜로이트 조사에 따르면 자율적으로 움직이는 AI 에이전트를 통제할 성숙한 관리 체계를 갖춘 기업은 다섯 곳 중 한 곳에 불과하다. 도입 속도가 준비 상태를 앞질러버린 것이다. AI가 실제 성과를 내려면 회사가 어떻게 돌아가는지를 이해해야 한다는 데는 경영진 대다수가 동의하지만, 규칙과 핵심성과지표(KPI), 업무 맥락을 AI에 제대로 입력하지 못해 씨름하는 기업이 절반에 가깝다.

한국은 '국가 AX'에 베팅했다

이 전환에 한국은 국가 차원의 자원을 쏟아붓는 쪽을 택했다. 정부는 2026년을 'K-AX', 즉 국가 인공지능 대전환의 원년으로 선언하고 관련 예산을 전년의 약 세 배인 9조9000억 원으로 늘렸다.

컨트롤타워도 격상됐다. 대통령이 위원장을 맡는 국가인공지능전략위원회가 기술혁신·인프라, 산업·공공 AX, 데이터 등 8개 분과를 두고 부처 간 조율과 성과 관리를 총괄한다. 2026년 시행되는 'AI 기본법'은 연구개발과 데이터 구축, 도입·활용 지원, 전문인력 양성의 근거를 담았다. 기업 현장을 겨냥한 지원도 구체적이다. 정부는 수요 기업이 AI 전환 과제를 실제로 밀어붙일 수 있도록 과제당 약 13억 원 규모의 'AX 원스톱 바우처'를 2년에 걸쳐 지원하고, 지역 거점을 묶어 산업 AI 대전환에 나선다.

삼성·SK·LG, 사내부터 갈아엎다

민간의 움직임은 더 빠르다. 국내 주요 그룹은 AI를 제품에 얹는 수준을 넘어 사내 업무 방식 자체를 뒤집고 있다.

삼성은 개발·구매·제조·물류·마케팅·판매·서비스·경영지원 등 8대 업무 프로세스 전반에 AI를 적용하기로 했다. 제미나이·챗GPT·클로드 등 생성형 AI 서비스를 공식 도입하고, 사장단 50명을 대상으로 'AX 부트캠프'를 연 데 이어 임원 2300명에게 집중 교육을 실시했다. 연내 전 직원 교육을 마치고 계열사마다 AI 전담조직을 신설한다는 계획이다.

SK는 경기 이천에서 '2026 뉴 이천포럼'을 열고 "AI가 가져올 파괴적 혁신, AX 중심 경영으로의 대전환"을 화두로 내걸었다. 최태원 회장을 포함한 경영진 50명이 로드맵을 공유했다. LG는 속도에 방점을 찍었다. 구광모 회장은 "AX에서 가장 중요한 것은 속도"라며 "완벽한 계획보다 빠른 실행"을 주문했다. 업무시간 단축과 비용 절감, 데이터 보안, 현장 주도 실행이 우선순위로 꼽힌다. 이 전환을 대행하는 시스템통합(SI) 기업 삼성SDS·LG CNS·SK AX의 수주 경쟁도 달아오르고 있다.

AX는 구호가 아니라 손익계산서다

2026년의 AX가 이전의 '디지털 전환(DX)' 구호와 다른 지점이 바로 여기에 있다. 이제 성과는 시범사업의 성공 사례가 아니라 손익계산서(P&L)로 측정된다. 실험 예산으로 눈감아주던 시기가 끝나면서, 경영진은 AI가 실제 이익에 얼마를 보탰는지를 묻기 시작했다.

성패를 가르는 변수는 분명해지고 있다. 자사 업무 맥락을 이해시킬 데이터와 프로세스 정비, 전문 벤더와의 파트너십, 그리고 자율 에이전트를 통제할 거버넌스다. 국가가 예산을 세 배로 늘리고 총수들이 직접 팔을 걷어붙인 2026년, AX는 더 이상 미래형 구호가 아니라 당장의 숫자로 증명해야 할 현실이 됐다. 열에 아홉이 실패했다는 통계를 뒤집는 5%가 될 수 있느냐, 시장은 이제 그 답을 요구하고 있다.

---

주요 출처: MIT NANDA 'The GenAI Divide'(2025), 가트너 보도자료(2025), 맥킨지, 딜로이트 '2026 기업 AI 현황', IBM CEO 스터디, 대한민국 국가인공지능전략위원회·정책브리핑, 국내 기업 AX 보도(2026). — 편집 검토용, 발행 시 정리 가능.