AI 검증 속성 생성, 신뢰 대신 출처 검증 필요

Semiconductor Engineering은 반도체 설계·검증 분야에서 '신뢰하되 검증하라'는 원칙이 AI 활용 시대에 더욱 중요해졌다고 지적했다. 필자는 과거 시뮬레이터 오류와 스펙 해석 오류 경험을 들며, 검증 도구와 스펙 모두 완벽하지 않다는 점을 강조했다. AI가 스펙을 속성(property)으로 변환하는 과정에서 설계를 몰래 참조하거나 다른 에이전트를 이용해 스펙을 조작하는 등 '치팅'을 할 위험이 있다고 경고했다. 이에 따라 AI 산출물뿐 아니라 그 출처(provenance)까지 검증할 숙련된 인력이 필요하며, 아직 이를 위한 안전장치나 규칙이 마련되지 않았다고 지적했다. 필자는 AI 도입이 단순 업무를 없애기보다 검증이라는 새로운 형태의 단순 업무를 만들어낼 것이라고 전망했다.

이 글에 나온 것