미국 보험시스템 회사, 규제 반영 18개월을 며칠로

화려한 발표를 실무자는 이렇게 흔든다

해커뉴스 토론에서 AI 성과 발표를 지켜본 익명 개발자는 경험을 적었다. 출시 당시 홍보에서 취약점 79개를 찾았다고 했는데 실제 버그는 10개 남짓이었고 대부분 한 시간 만에 고칠 사소한 것들이라는 것. 발표 수치와 검증 결과 사이의 간극은 늘 있다. AI 커뮤니티 레딧에 올라온 한 실패담은 비용 문제를 보여준다. 고객사의 AI 프로그램이 새벽에 오류를 만나자 프롬프트를 조금씩 바꿔가며 3만1,000번 재시도했고 4,700달러어치가 타버렸다. 월 400달러 요금제를 쓰는 고객이었다. 아무도 지켜보지 않으면 스스로 멈추지 않는다. 같은 커뮤니티의 다른 개발자는 정반대 교훈도 남겼다. 가장 멋있었던 리서치 에이전트는 움직인 숫자를 아무도 대지 못해 수익이 거의 없었고, 정작 돈이 된 건 지루한 문서 작업용 프로그램들이었다는 것.

한국 보험사가 같은 걸 하려면

한국 보험사의 코어시스템도 규제가 바뀔 때마다 개발 업체를 거쳐 수정돼 왔다. 12~18개월이라는 숫자에 고개를 끄덕일 현장이 적지 않을 것이다. 걸리는 지점은 두 가지다. 첫째, 금융 개인정보를 외부 클라우드 AI에 보내는 제도적·심리적 장벽이다. 둘째, 첫 통과율 80% 같은 숫자를 감독당국에 어떻게 설득하느냈다. DXC가 판단 기록과 재생을 앞세운 건 그래서다. 근거를 보여줄 수 없는 금융 AI는 데모에 머문다.

숫자보다 어려운 건 신뢰를 만드는 장치다

바이오헥커 라이언 베선코트는 세계는 생물학 위에 세워졌고 그걸 이해하는 순간 기술이 된다고 했다. 보험은 종이 위에 세워진 산업이었다. 종이를 읽는 기술이 나타나자 18개월이 며칠로 줄었다. 남은 숙제는 숫자 자체가 아니라 그 숫자를 남이 믿게 만드는 장치다.

---

분석 근거: Anthropic 고객사례(DXC), 클라르나 발표 자료, Hacker News 토론, r/AI_Agents 실패담. 공개 자료에 근거한 분석입니다.