AI 스타트업, 언어모델 오류 잡는 새 도구 공개

샌프란시스코 기반 AI 스타트업 굿파이어(Goodfire)가 LLM(거대언어모델)의 내부 작동 방식을 분석하고 매개변수를 조정해 디버깅을 돕는 새로운 도구 '실리코(Silico)'를 출시했습니다.

굿파이어는 '실리코'가 연구원과 엔지니어가 AI 모델 훈련 중 동작을 결정하는 매개변수를 세밀하게 조정하도록 지원한다고 밝혔다. 이 도구는 모델 개발 초기 단계부터 훈련까지 전 과정에 걸쳐 디버깅을 돕는 최초의 기성품이라고 주장한다. 굿파이어 CEO 에릭 호는 모델의 이해와 배포 간 간극이 벌어지는 것을 보고 '더 나은 방법이 있다'며 '실리코' 개발 동기를 밝혔다.

굿파이어는 '실리코'를 통해 이미 AI 모델의 환각(hallucinations) 수를 줄이는 등 내부 기법을 활용해 모델 동작을 미세 조정하는 데 성공했다. 이들은 '실리코'를 제품화함으로써 기계적 해석 가능성(mechanistic interpretability) 기술을 선도하는 기업들과 함께 이 분야를 개척하고 있다.

본 기사는 AI가 생성하였으며, 사람이 검수한 기사입니다.