#AI 악용
Gemini로 스스로 코드를 고쳐 쓰는 AI 악성코드 발견
구글 위협 인텔리전스 그룹은 생성형 AI 제미나이를 이용해 스스로 코드를 다시 쓰며 탐지를 회피하는 실험적 악성코드 '프롬프트플럭스'를 2025년 6월 발견했다. 일부 변종은 매시간 전체 소스 코드를 재작성하지만, 현재 보안 도구를 완전히 무력화하지는 못하는 것으로 확인됐다. 이번 사례는 공격자의 AI 악용 가능성을 보여주며, 구글은 실제 공격에서 AI를 활용하는 사례와 상황을 스스로 판단하는 안드로이드 백도어도 문서화했다.
AI 악용 가짜뉴스 유포 혐의 김세의 대표 구속영장 신청
사이버 레커들이 첨단 기술을 악용해 거짓과 허위 사실을 유포하며, 유튜버 쯔양이 이들로부터 5500만원을 갈취당하는 등 다수의 피해자가 발생했다. AI 기술 발전으로 가짜 정보 판별이 어려워짐에 따라, 범죄에 대한 강력한 대응 방안 마련이 시급하다.
카카오-구글 딥마인드, AI 콘텐츠 투명성 높인다
카카오가 구글 딥마인드와 손잡고 인공지능(AI) 생성 콘텐츠의 투명성을 높이기 위한 기술 도입에 나선다. 이미지, 영상이 편집을 거치더라도 AI로 제작된 유무를 판별할 수 있는 안전장치를 마련하겠다는 취지다. 카카오는 구글 딥마인드와 AI 생성 콘텐츠의 투명성 확보를 위한 기술 파트너십을 체결했다고 20일 밝혔다. 이번 협약에 따라 카카오는 자체 개발한 AI 모델 '카나나'에 구글 딥마인드의 디지털 워터마킹 솔루션 '신스ID'를 도입한다. 카카오는 아시아 기업 가운데 최초로 해당 기술을 전면 적용하는 사례가 됐다.
중국, AI 불법·부적절 행위 특별 단속 나선다
중국, AI 애플리케이션 불법행위 단속 특별캠페인 착수 2026.04.30 (목) 22:20
북한, AI 악용해 글로벌 공급망 위협 확대
북한 AI 악용 2. 공급망·신뢰 체계 위협] 미 “북 사이버 범죄는 글로벌 문제”…기업 허점 파고드는 북한
김민석 총리, AI 악용 가짜뉴스 선거 개입 엄중 처벌 예고
김민석 국무총리가 지방선거를 앞두고 AI 딥페이크 등 가짜뉴스에 대해 법적 최고 처벌을 경고하며, 5대 선거 범죄에 무관용 원칙을 적용하겠다고 밝혔다. 또한, 경찰의 사이비 매체 단속과 과학기술정보통신부·방송통신위원회의 플랫폼 협력을 통한 허위 정보 차단, 관계 부처 간 상시 협업 체계 구축 등 대응을 주문했다.