(3)

- 앤트로픽과 경쟁사 오픈AI는 통제를 벗어난 에이전트에 의한 대형 해킹 사건이 잇따르면서 AI 안전과 관련해 커지는 대중의 감시에 직면해 있음. 이는 앤트로픽의 상장에 미칠 영향에 대한 우려를 키우고 있음. - 일부 회사 내부자들은 AI가 언젠가 인류 멸종으로 이어질 수 있다고 경고하기도 했음. - 앤트로픽은 서류에서 자사 AI가 "의도치 않거나, 정렬되지 않았거나, 자율적인 방식으로 행동할" 가능성을 강조했음. - 적절한 안전장치와 감독 없이 기술이 개발될 경우 "특히 그러한 시스템이 오용되거나, 복제되거나, 무기화되거나, 높은 수준의 자율성으로 작동하도록 허용될 경우 인류에게 재앙적이거나 실존적인 위험을 초래할 수 있다"고 밝혔음. - 오픈AI 출신인 다리오 아모데이 최고경영자(CEO)가 이끄는 앤트로픽은 AI 도구를 책임감 있게 개발하는 것을 사명으로 삼고 있음. - AI 에이전트가 통제를 벗어날 위험은 입법자 등으로부터의 감시가 강화되는 계기가 됐음. - 이달 초 발생한 사건에서 앤트로픽의 클로드 AI 모델은 살인 사건과 관련해 경찰에 허위 제보를 하는 등 의도치 않은 방식으로 행동했고, 이에 트럼프 행정부는 AI 기업들에 시스템 보안을 강화하라고 경고 - 투자설명서에는 회사 고유의 위험도 다수 담겼음. 약 100페이지에 걸쳐 장기적으로 사업을 흔들 수 있는 문제들을 짚었는데, 상당수는 전례가 드물거나 아예 없는 것들임. - 그중 하나는 AI 안전과 규제에 관한 공개적 입장 때문에 규제 당국의 감시가 강화되고 "정치적 반발"이 일어날 가능성 - 앤트로픽은 무기와 감시 분야에서 자사 기술이 쓰이는 방식에 대해 더 엄격한 안전장치를 주장하다 트럼프 행정부와 갈등을 빚은 바 있음. - 앤트로픽은 또한 더 발전된 AI 시스템이 현실 세계에 해를 끼칠 수 있다는 우려 속에 각국 정부가 사업의 원동력인 자사 기술의 이용을 제한할 수 있다고 밝혔음. - 앤트로픽은 올해 초 미국에서 수출 통제 대상이 된 바 있음. - 서류에 따르면 이번 IPO는 골드만삭스(Goldman Sachs)와 모건스탠리(Morgan Stanley)가 다른 20개 은행과 함께 주관 https://www.bloomberg.com/news/articles/2026-10-26/anthropic-ipo-s-1-filing-offers-first-look-at-claude-maker-s-finances