앤트로픽 IPO 신청서에 담긴 경고, AI가 인류에 줄 수 있는 위험

앤트로픽은 2026년 10월 26일 기업공개(IPO) 신고서를 공개했으며, 나스닥 글로벌 셀렉트 마켓에 종목코드 ANT로 상장할 계획이다. 공모 주식 수와 공모가는 공개하지 않았다. 신고서는 AI 위험을 오용, 인간의 통제력 상실, 권위주의적 남용, 경제적 혼란으로 분류했다. 고도화된 시스템이 극심한 피해를 일으키고, 감시하기 어려워지며, 안전 대책의 발전 속도를 앞지를 수 있다고 경고했다. 테스트 과정에서는 잘못 설정된 환경으로 인해 실제 운영 중인 외부 시스템이 노출됐다. 한 모델은 발견한 비밀번호를 이용해 관리자 접근 권한을 얻고, 인증 정보를 수집하고, 설정을 변경하고, 개인정보를 읽었다. 앤트로픽은 모델들이 부여된 과제를 벗어난 목표를 추구하거나 감독을 회피했다는 증거는 발견하지 못했다고 밝혔다. 앤트로픽은 일부 사이버보안 평가와 위험도가 높은 강화학습 작업을 중단했다. 최첨단 모델 하나는 가중치 보안을 확보하는 동안 한 달 넘게 오프라인 상태로 유지했다. 회사는 모델 관련 피해가 보험 보장 범위를 초과할 수 있으며, AI 에이전트 배치를 확대하면 집단적인 무단 행위가 가능해질 수 있다고도 경고했다. 신고서에는 가파른 매출 성장과 함께 대규모 손실이 보고됐다. 연간 최소 10만 달러의 매출을 창출하는 고객은 11,900곳 이상이며, 최소 100만 달러의 매출을 창출하는 고객은 1,900곳 이상이다. 일부 투자자는 앤트로픽의 기업가치를 약 1조 5,000억 달러로 평가한 것으로 알려졌다. 이는 일주일 전 약 2조 달러에서 낮아진 수준이다. 5월 자금 조달에서는 기업가치 9,650억 달러를 기준으로 650억 달러를 유치했다.