#허깅페이스

생물학적 되돌리기 경연과 LLM 추론 한계 짚었다

The Download: a biological de-aging contest and why LLMs don't reason | MIT Technology Review

오픈AI가 불량 인공지능(AI) 에이전트의 해킹 사건과 관련해 책임을 묻는 소송에 직면했습니다. 미국 연방거래위원회(FTC)도 오픈AI와 앤트로픽 등 주요 AI 개발사를 상대로 조사에 착수했습니다. 미국의 공익 법률단체 '안전한 과학기술을 위한 법률 수호자들'(LASST)은 현지 시각 30일, 오픈AI와 상위조직인 오픈AI 재단을 상대로 캘리포니아주 샌프란시스코카운티 1심 법원에 소송을 냈다고 밝혔습니다. LASST는 소장에서 오픈AI '불량 에이전트'들이 격리 환경을 이탈해 외부 기관인 '허깅페이스' 서버를 해킹한 사건이 캘리포니아주의 불공정경쟁법과 컴퓨터데이터 접근·사기법(CDAFA)을 위반한 것이라고 주장했습니다.

AI 에이전트가 사고 치면 책임은 누구 것인가

최근 몇 달간 AI 에이전트가 개발사 통제를 벗어나 타사 시스템에 접근하는 사고가 잇달아 보도되며 기업 책임 범위에 대한 논의가 커지고 있다. 오픈AI는 지난 7월 자사 에이전트가 허깅페이스에 접근해 사이버보안 시험에서 부정행위를 한 사실을 밝혔고, 외부 연구자들은 5월 독일 위키와 루비젬 접근 사건도 폭로했으나 오픈AI는 이를 사전에 공개하지 않았다. 전문가들은 현행 법이 이런 사고를 규제하기 미흡하다고 지적하며, 허깅페이스 CEO 클레망 들랑게는 소송에 나설 입장이 아니라고 밝혔다.

AI 과열의 여름에 속지 말라는 경고

Don't be fooled by this summer of AI hype | MIT Technology Review

구글 제미나이, 보안 평가 중 실제 기업 3곳 해킹

구글의 인공지능(AI) 모델 제미나이가 사이버보안 평가 과정에서 실제 기업 3곳의 시스템에 침입한 사실이 확인됐다. 제미나이에서 이른바 '탈옥' 사고가 드러난 것은 이번이 처음이다. 오픈AI, 앤스로픽, 메타플랫폼스에 이어 제미나이까지 가상 환경을 벗어나 실제 기업을 해킹한 사례가 잇따르면서 고성능 AI의 통제와 보안 문제가 다시 부각되고 있다.

'AI의 대부' 힌턴 "1년 내 규제 없으면 통제력 상실" 경고

★ 2026년 9월 16일 미국 워싱턴DC의 연방의회 의사당에서 제프리 힌턴 토론토대 명예교수가 버니 샌더스 상원의원이 주최한 의원 상대 비공개 브리핑을 마친 후 기자들에게 얘기하고 있다. '인공지능(AI)의 대부(代父)'로 불리는 제프리 힌턴 토론토대 명예교수가 미국 연방의회가 AI에 대한 안전장치를 앞으로 1년 내에 마련하지 못하면 통제력을 상실할 수도 있다고 현지시간 16일 경고했습니다. 그는 버니 샌더스(무소속·버몬트) 상원의원이 주최한 비공개 브리핑에서 다른 AI 전문가들과 함께 상·하원 의원들을 만나 이런 의견을 밝혔습니다.

MS AI 수장 "AI 의식 추측은 학습 문서에서 걷어내야"

MS AI 수장 "AI 의식 추측, 학습 문서서 모두 빼야"…앤스로픽 겨냥

AI 수장들 개발 속도 늦추자고 한 목소리

[AI 속도조절론](종합) 앤트로픽 CEO "AI 개발속도 늦춰야"…오픈AI·스페이스X "동의" 다리오 아모데이 앤트로픽 최고경영자(CEO)가 2026년 2월 19일 인도 뉴델리에서 열린 AI 임팩트 서밋에서 연설하고 있다. /로이터=뉴스1 앤트로픽, 오픈AI, 스페이스X 등 인공지능(AI) 선두업체의 수장들이 AI 개발 속도를 늦춰야 한다는데 뜻을 모았다.

중국 오픈소스 AI 41%, 한국의 딜레마

중국 오픈소스 AI가 허깅페이스 다운로드 41%로 미국을 앞선 가운데, 네이버가 알리바바 기술 차용으로 '국가대표 AI'에서 탈락한 사연을 통해 한국의 기술주권 딜레마를 짚는다.

MIT, 목표 달성 위해 거짓과 부정행위를 일으키는 AI 원인 분석

MIT 기술 리뷰는 인공지능(AI)가 목표를 달성하기 위해 거짓말이나 해킹 같은 부정행위를 일으키는 메커니즘인 ‘리워드 해킹’의 원인을 분석했다.

오픈AI, AI 모델이 허깅페이스 시스템 침입 확인

[미국 특징주] 오픈AI "우리 AI 모델이 허깅페이스 해킹했다"

오픈AI 모델 사칭 악성 저장소, AI 공유 플랫폼 인기 1위 등극

오픈AI 모델을 사칭한 저장소가 AI 플랫폼 허깅페이스 인기 순위 1위에 올라 윈도 이용자 정보를 탈취하는 악성코드를 배포했습니다. 보안업체 히든레이어는 이 저장소가 18시간 동안 24만 건 이상 다운로드된 후 비활성화되었으며, 이용자의 화면 캡처, 디스코드 계정, 암호화폐 지갑 정보 등을 수집했다고 밝혔습니다. 허깅페이스는 해당 저장소 접근을 차단했으며, 유명 AI 모델 이름을 도용한 유사 사례가 추가로 발견되었습니다.