공공 AI, 까다로운 환경서 작동

정부 기관들이 까다로운 보안 및 규제 환경 속에서도 AI를 안전하게 사용하기 위해, 특정 목적에 맞춘 소형 AI 언어 도구(SLM) 도입을 추진하고 있다.

전 산업에 걸쳐 AI 도입이 확산되면서 공공 부문 역시 AI 도입 압박을 받지만, 민간 부문과 확연히 구분되는 고유한 제약 조건들이 AI 도입을 어렵게 한다. 보안, 거버넌스, 운영 측면에서 공공 기관이 마주하는 문제들은 AI의 실질적인 현장 적용을 복잡하게 만든다.

공공 부문 임원의 79%가 AI 데이터 보안을 우려하며, 정부 기관은 네트워크로 전송하는 데이터에 대해 매우 제한적인 통제만 허용한다.

이러한 환경에서 '목적별 맞춤형 소형 언어 모델(SLM)'은 정부 기관이 요구하는 보안, 신뢰, 통제를 갖춘 AI 운영을 위한 실질적인 최신 기술 대안으로 부상한다. SLM은 수십억 개, 많게는 수백억 개의 매개변수를 사용하는 전문화된 AI 모델로, 대규모 언어 모델(LLM)에 비해 계산 요구량이 적다. 공공 부문은 외부 중앙 집중식 위치에 있거나 커지는 모델을 구축할 필요 없이, SLM을 자체 소규모 환경에 설치하여 운영할 수 있다. SLM은 LLM과 동등하거나 더 나은 성능을 보이며, 민감한 정보를 효과적이고 효율적으로 사용하면서도 대규모 모델 유지의 복잡성을 피할 수 있게 한다. 공공 기관은 GPU 인프라 관리에 익숙하지 않고 GPU 구매를 하지 않는 경우가 많아 GPU 접근이 AI 모델 운영의 병목 현상이 되곤 하는데, SLM은 이러한 인프라 제약을 완화하는 데 기여한다.

본 기사는 AI가 생성하였으며, 사람이 검수한 기사입니다.