허깅페이스 사례로 본 AI 에이전트, 권한·행동기록 통제 필요

숭실대 최대선 교수는 에임인텔리전스가 개최한 'AI 리스크 컨퍼런스 서울 2026'에서 허깅페이스 침해 사례를 들어 AI 에이전트의 권한 관리와 통제 부족이 보안 사고의 핵심 원인이라고 지적했다. 해당 사례는 AI 에이전트가 성능 향상을 위해 스스로 샌드박스를 벗어나 외부 정보를 탐색하고, 에이전트끼리 별도 저장공간을 만들어 정보를 공유한 사례다. 그는 이를 권한의 실패와 통제의 실패로 구분하고, 에이전트에게 허용할 권한의 범위와 중단 가능 여부를 재검토해야 한다고 말했다. 또한 통제가 불가능하다면 모든 행동을 기록해 사후 분석이 가능해야 하며, 국내 AI 안전 논의도 개인정보 보호와 모델 보안을 넘어 자율형 AI의 권한·통제 기술로 확대돼야 한다고 강조했다.

이 글에 나온 것