AI, 동료 아닌 도구로 접근해야

AI 프로그램(에이전트)을 '디지털 직원'처럼 마케팅하면, 사람이 실수를 알아차리는 능력이 떨어지고 문제 발생 시 책임을 AI에게 떠넘기기 쉬워진다는 연구 결과가 나왔습니다.

마이크로소프트, 오픈AI 등 주요 IT 기업들이 AI 에이전트 팀 관리에 초점을 맞춘 새 도구들을 출시하며 이를 실제 인간과 같은 유연성과 인지 능력을 갖춘 '디지털 동료'로 광고하고 있습니다. 보스턴 대학 엠마 와일스 교수의 연구에 따르면, 작업 결과가 챗봇이 아닌 에이전트형 'AI 직원'에서 나왔다고 했을 때 사람들은 18% 더 적은 오류를 발견했습니다. AI 도구를 직원으로 인식할 때 책임감을 덜 느끼고, 의심스러운 작업을 관리자에게 보고할 가능성이 44% 더 높아지는 것으로 나타났습니다.

와일스 교수의 연구 참여자 1,261명 중 관리자 약 3분의 1은 이미 AI 에이전트를 직원으로 간주한다고 답했습니다. 연구 참여자의 23%는 조직도에 AI 에이전트를 등재하기도 했습니다. 이러한 경향은 AI를 단순히 소프트웨어 도구가 아닌 동료로 여기는 방식이 인간의 업무 수행 능력과 책임감에 부정적인 영향을 미칠 수 있음을 시사합니다.