에임인텔리전스 스타포트 공개, AI 에이전트 실행 전 가드레일 통제

에임인텔리전스는 지난 7일 'AI 리스크 컨퍼런스 서울 2026'에서 AI 취약점을 찾는 레드티밍과 AI 행동을 실시간 통제하는 가드레일을 결합한 통합 관리 플랫폼 '스타포트'를 소개했다. 박하언 CTO는 가장 안전하다고 평가받는 AI 모델도 10분 안에 탈옥이나 인격 변조가 가능했다고 밝혔다. 스타포트는 경량 가드레일 모델 '가디언'을 통해 프롬프트와 응답을 실시간 검사해 민감정보를 마스킹·차단하고, AI 모델·에이전트 인벤토리 및 관측 기능과 정책 기반 권한 제어를 제공한다. 회사는 60개 이상 AI 모델에 레드팀 테스트를 수행했고 해외 20여 개 기업에 솔루션을 공급 중이라고 밝혔다.

이 글에 나온 것