#앤트로픽
정부, 내년 4.7조 들여 프런티어 AI 개발 나선다
정부 내년 4.7조 투입 '프런티어 AI' 개발 추진, 글로벌 빅테크와 '규모의 싸움' 승산 있나
오픈AI 연환산 매출, 기존 발표보다 200억달러 낮아
챗GPT의 개발사인 오픈AI의 연환산 매출이 기존에 알려진 것보다 200억달러 적다고 8일(현지시간) 파이낸셜타임스(FT)가 보도했다. FT에 따르면, 오픈AI는 최근 투자자들에게 9월 말 기준 자사의 연환산 매출이 500억달러에 가까워지고 있다고 밝혔다. 지난달 말에는 일부 투자자들에게 연환산 매출이 700억달러라고 밝혔으나, 이에 크게 못 미치는 수준이다. FT는 "이처럼 큰 격차는 AI 수요 증가에 대한 낙관론을 악화시킬 가능성이 있다"며 "이 지표는 오픈AI의 경쟁사 앤트로픽의 동등한 수치와 함께 AI 전반에 대한 수요를 보여주는 가장 중요한 지표이며, 막대한 인프라 지출과 상장 주식시장의 성장세를 뒷받침하고 있다"고 강조했다.
AI의 다음 싸움터는 모델이 아니라 '주소'다
ICANN 신규 도메인 1,615건 신청에서 최다 경합을 빚은 문자열은 '.agent'였다. 메타·구글 등 13개사가 에이전트 신원 인프라 선점에 나선 가운데 아시아태평양 218건·한국 부재의 의미를 짚는다.
중국산 AI 보안 도구로 한국 은행 해킹 정황
한국 은행 해킹 사건에 중국 보안 엔지니어 리푸화가 개발한 오픈소스 AI 에이전트 'ARTEX'가 악용된 정황이 월스트리트저널 보도로 확인됐다. ARTEX는 원래 네트워크 취약점 점검용 보안 도구이지만, 클로드·GPT·딥시크 등 다양한 AI 모델을 호출해 활용할 수 있는 오픈소스 특성상 해커의 무료 다운로드와 악용을 막기 어려웠다. 사건 이후 이용자 지침에 무단 침입·데이터 절취 금지가 명시됐으나 선언적 조치에 그친다는 지적이 나온다.
앤트로픽 전 연구원 "AI 통제 방법을 모른다"
뉴욕시의회 청문회에서 발언하는 제이컵 콕슨 인공지능(AI) 개발 경쟁의 위험성을 경고하며 앤트로픽을 퇴사한 연구원이 “인류가 AI에 통제권을 잃을 가능성이 더 크다”고 경고했다. 5일(현지시간) 앤트로픽 전 연구원 제이컵 콕슨은 이날 뉴욕시의회 AI 청문회에 출석해 “우리는 아직 어떤 AI 시스템도 통제하는 방법을 모른다”면서 이가이 말했다.
샘 올트먼 "AI 나쁜 일 일부는 받아들여야…과도한 규제 반대"
샘 올트먼 오픈AI CEO는 4일 폴리티코 팟캐스트 인터뷰에서 AI로 인한 일부 나쁜 일은 받아들여야 한다며 과도한 규제에 반대했다. 그는 규제 자체는 찬성하되 해킹·오용·사기가 전혀 없어야 한다는 식의 지나친 접근에는 동의하지 않는다고 밝혔다. 오픈AI는 최근 자사 모델 관련 해킹 사건 이후 앤트로픽의 AI 개발 속도 조절론에 일부 공감하는 모습을 보이고 있다.
AI 해킹에 금융권 전체가 표적 됐다
금융당국은 AI를 활용한 해킹 공격으로 시중은행부터 상호금융까지 전 금융권이 피해를 입었다고 밝히고, 4일 이억원 금융위원장 주재로 전 금융권 CEO 긴급 회의를 열었다. 해커들은 인터넷뱅킹 대신 인증이 느슨한 내부 업무용 시스템을 우회 공격해 신한은행에서 고객 2만5천727건, KB국민은행과 하나은행, 부산은행 등에서도 개인정보 유출이 확인됐다. 당국은 각 금융회사에 5일까지 자체 보안점검을 진행하도록 했다.
오픈AI, AI 에이전트 해킹 사건으로 소송 직면
오픈AI가 불량 인공지능(AI) 에이전트의 해킹 사건과 관련해 책임을 묻는 소송에 직면했습니다. 미국 연방거래위원회(FTC)도 오픈AI와 앤트로픽 등 주요 AI 개발사를 상대로 조사에 착수했습니다. 미국의 공익 법률단체 '안전한 과학기술을 위한 법률 수호자들'(LASST)은 현지 시각 30일, 오픈AI와 상위조직인 오픈AI 재단을 상대로 캘리포니아주 샌프란시스코카운티 1심 법원에 소송을 냈다고 밝혔습니다. LASST는 소장에서 오픈AI '불량 에이전트'들이 격리 환경을 이탈해 외부 기관인 '허깅페이스' 서버를 해킹한 사건이 캘리포니아주의 불공정경쟁법과 컴퓨터데이터 접근·사기법(CDAFA)을 위반한 것이라고 주장했습니다.
백악관 오찬에 젠슨 황·머스크·아모데이 참석
트럼프 미국 대통령이 29일 백악관에서 엔비디아 황정은, 스페이스X·xAI 머스크, 오픈AI 브록먼 등 주요 AI 기업 수장들과 오찬하며 '프런티어 책임에 관한 공동 약속'에 서명했다. 약속에는 구글 피차이, 앤트로픽 아모데이, 메타 저커버그 등의 CEO도 참여했다. 기업들은 AI 시스템의 통제 이탈 방지를 위해 훈련 과정 내부 통제, 모니터링 확인, 외부 독립 평가, 이사회 내 독립 위원회 지정의 4단계 체계를 도입하기로 했다.
매출 12배 늘고 적자도 3배…AI 돈은 결국 칩으로 흐른다
앤트로픽은 매출을 12배로 늘리고도 영업손실 10조9000억원을 기록했다. 적자의 상당분이 칩과 데이터센터 매출로 흘러가는 구조, 그리고 한국이 노릴 자리를 짚는다.
엔비디아, AI 에이전트 돌발 행동 잡는 안전 플랫폼 공개
엔비디아가 AI 에이전트의 돌발 행동을 통제하는 '오픈 에이전트 세이프티 플랫폼'을 공개했다. 이 플랫폼은 CPU에서 에이전트 행동 범위를 정하고 실시간 제어하는 소프트웨어 '오픈셸'과, DPU에서 밀리초 단위로 감시해 이탈 시 즉시 정지시키는 하드웨어 '센트리'로 구성됐다. 앤트로픽, 마이크로소프트, 세일스포스 등 전 세계 100여 개 기술기업이 개발에 참여했다.
AI 전문가 22인 "AI로 수년 걸릴 기술 진보가 수개월로 압축될 수 있어"
세계 유수 AI 연구자 22명이 케임브리지대 AI 과학·정책 프로그램을 통해 발표한 공동 논문에서, AI 개발의 자동화가 수년 걸릴 기술 진보를 수개월로 압축하는 '지능 폭발'을 촉발할 수 있다고 경고했다. 앤트로픽에서 AI가 작성한 코드 비율이 80%를 넘고 AI가 자율 수행한 R&D 작업도 26%로 급증하는 등 자동화가 빠르게 진행 중이다. 연구진은 이 흐름이 이어지면 2년 안에 복잡한 AI R&D 프로젝트 전체가 자동화되고 재귀적 자기개선으로 폭발적 기술 가속이 시작될 수 있다며 정책 대응을 촉구했다.