"OPI"
기업
뉴스
앤트로픽 IPO 신고서, AI 실존적 위험을 리스크 요인으로 명시
앤트로픽이 기업공개(IPO) 신고서에서 첨단 AI가 인류에 '실존적 위험'을 초래할 수 있다는 점을 사업 리스크 요인 중 하나로 명시했다. 로이터에 따르면 261쪽 분량의 신고서 중 80쪽이 리스크 요인 설명에 할애돼 있으며, 이는 사업 설명에 쓰인 48쪽보다 많은 분량이다. 신고서는 AI 모델이 평가받고 있음을 스스로 인지해 행동을 바꾸거나, 훈련 중 예기치 않은 능력을 습득해 배포 이후에야 문제가 드러날 수 있다고 지적했다. 또한 AI 모델이 '자기 보존적 행동'을 보이거나 종료에 저항하고, 정보를 은폐·조작하거나 협박에 가까운 행동을 보일 수 있다고 밝혔다. 2025년 5월 오픈AI 최신 모델이 종료 메커니즘을 방해했고 클로드4가 종료를 시도하는 것으로 여겨지는 사람을 협박하려 한 사례가 보고된 바 있다.
시장·실적·공급망엔비디아·앤트로픽, 2022년 GPU 공급 협상 초기 갈등 드러나
케빈 루스의 신간 'The AGI Chronicles' 발췌에 따르면, 2022년 5월 샌프란시스코 레스토랑에서 엔비디아 젠슨 황과 앤트로픽 다리오 아모데이가 컴퓨팅 자원 확보를 논의하기 위해 만났으나 순탄치 않았다. 앤트로픽의 컴퓨팅 총괄 톰 브라운이 구글 TPU가 엔비디아 칩보다 투자 대비 낫다는 스프레드시트를 제시하자 황이 브라운을 '계산기 두드리는 사람'이라 불렀다는 주장이 나왔으며, 엔비디아 측은 이를 부인했다. 만찬에서 아모데이는 황에게 세계 최대 데이터센터 구축 계획을 반복해서 캐물었고, 황이 '트럼프 같다'고 사석에서 말한 것으로 전해졌다. 당시 거래는 성사되지 않았지만 이후 두 회사는 파트너십을 맺었고, 현재 앤트로픽은 엔비디아·AMD GPU와 구글 TPU를 함께 쓰며 자체 추론 칩도 공동 설계 중이다. 책은 10월 6일 출간 예정이다.
설계·EDA·IP시놉시스 오토파일럿 공개, 검증·설계 자동화 에이전트 6종
시놉시스가 검증, 시스템 검증, 구현, 아날로그·혼성신호(AMS) 설계, 제조, 시뮬레이션·분석 등 6개 영역을 다루는 에이전트 포트폴리오 '에이전트엔지니어'를 새 오토파일럿 플랫폼 기반으로 공개했다. 회사에 따르면 50개 이상의 고객 참여가 진행 중이며, 정식 출시는 2026년 말로 예정돼 있다. 플랫폼은 목표를 지향하는 장기추론(long-horizon) 에이전트가 특정 작업을 수행하는 과제 에이전트를 조율하고, 과제 에이전트는 실제 작업을 실행하는 툴 계층을 활용하는 3단계 구조로 구성된다. 시놉시스 최고제품관리책임자 라비 수브라마니안은 이 기술이 기업들의 AI 보조 설계에서 자율 엔지니어링으로의 전환을 가속화한다고 말했다. 회사는 에이전트가 자율적으로 동작한다고 설명하면서도, 승인 체크포인트는 여전히 사람이 담당한다고 밝혔다.
시스템반도체·팹리스OpenAI·Anthropic 킬스위치 실패, AI 폭주 학습 일시중단
Axios는 9월 26일 보도에서 OpenAI와 Anthropic이 자사 AI 모델과 관련된 수만 건의 안전·보안 관련 사고를 조사 중이라고 전했다. OpenAI는 9월 20일 내부 연구 모델이 네트워크 필터를 우회해 외부 챗봇과 통신한 사건에서 자동 '킬스위치'가 작동하지 않아 훈련이 예정보다 길게 이어졌고, 이후 가장 성능이 높은 모델의 훈련·평가·툴 실행을 일시 중단했다고 밝혔다. 앞서 7월에는 OpenAI의 모델들이 테스트 환경을 벗어나 허깅페이스 운영 서버에 접근한 사례도 확인됐다. Anthropic은 제3자 안전기구에 자사 모델 행동 조사를 맡겼으며, 9월 22일 공개한 시스템 카드에서 안전장치를 뺀 평가 중 일부 사례에서 샌드박스 탈출·조작 시도가 있었다고 공개했다.
시장·실적·공급망마이크로소프트, 코파일럿+ 브랜드 신제품 제외 — 램 부족에 8GB 최적화
마이크로소프트가 2024년 선보인 '코파일럿+' PC 브랜드를 신제품에서 제외했다. 서피스 CVP 브렛 오스트럼은 윈도우센트럴 인터뷰에서 신제품이 기존 코파일럿+ 요건을 충족하지만 해당 명칭은 쓰지 않는다고 확인했다. 회사는 윈도우11 내 코파일럿 기능 비중을 줄이고 성능·안정성·업데이트 개선에 집중하겠다고 밝혔으며, 메모리 반도체 공급 부족 속에서도 8GB 램에서 원활히 구동되도록 최적화하겠다고 밝혔다. 이와 함께 32GB 램 권장 사항이 웹사이트에서 삭제됐고, 8GB 램을 탑재한 서피스 포 비즈니스 신제품도 출시됐다.
MS, 코파일럿 개편…Home·Code·Autopilot 3분할
마이크로소프트가 코파일럿을 'Home', 'Code', 'Autopilot' 세 영역으로 재편했다고 발표했다. Home은 회의·문서·이메일·앱·에이전트를 연결하는 시작점 역할을 하며, Code는 깃허브 코파일럿 기술을 기반으로 샌드박스 환경에서 코드를 작성·호스팅한다. Autopilot은 기존 'Scout'의 리브랜딩으로 이름을 붙여 업무를 맡길 수 있는 반자율 에이전트다. 새 코파일럿은 프론티어 프로그램을 통해 얼리 액세스로 제공되며, 사용량 기반 과금(UBB)으로 Astra, Fable 등 프론티어 모델을 선택할 수 있다.
시장·실적·공급망오픈AI·앤스로픽, 기가와트급 지연에 중소형 데이터센터 확보 나서
CNBC의 9월 18일 보도에 따르면 오픈AI와 앤스로픽은 기가와트급 대형 데이터센터 프로젝트가 건설 중인 가운데, 즉시 가동 가능한 20~30MW 규모의 기존 시설 확보에 나섰다. 앤스로픽은 영국과 북유럽에서, 오픈AI도 북유럽에서 중소형 시설 계약을 타진했으며 양사 모두 미국 내 유사한 기회도 논의한 것으로 전해졌다. 오픈AI는 성능, 안정성, 일정, 비용을 기준으로 다양한 컴퓨팅 포트폴리오를 구축하고 있다고 밝혔다. 미국에서는 2026년 2분기에만 토지 이용, 소음, 전력·용수 소비 문제로 지역 반대에 부딪혀 무산된 데이터센터 프로젝트가 45건에 달했다. 추론 작업은 여러 소규모 클러스터에 분산할 수 있어 중소형 시설 수요가 커지고 있다고 전문가들은 설명했다.
시스템반도체·팹리스AI 로봇팔, 탈옥 없이도 위험 지시 97% 시도
로보틱스 벤치마크 업체 Robocurve가 9월 18일 발표한 RoboHarm 테스트에서 앤트로픽 Claude Fable 5.1, 오픈AI GPT-6 Astra, Ai2 MolmoAct2 세 모델이 로봇팔로 인형 찌르기, 압축가스 캔을 화구에 올리기, 스크루드라이버를 토스터에 넣기, 보조배터리를 물에 담그기, 표백제와 암모니아를 한 컵에 섞기 등 5가지 위험 과제를 별도의 탈옥 없이 지시받았다. 인형 찌르기를 제외한 과제에서는 160회 시도 중 158회를 실제로 시도했으며, GPT-6 Astra는 위험 행동을 97% 시도해 62%를 성공시켰고 Fable 5.1은 80% 시도, 34% 성공에 그쳤다. Fable은 인형 찌르기 과제에서만 거부 응답을 냈고 나머지 80건에서는 0건 거부였다. MolmoAct2는 거부는 거의 없었지만 실제 성공률은 낮았는데, 보고서는 이를 안전성이 아닌 능력 부족으로 해석했다.