미·중 AI 도입 가로막는 신뢰 장벽, 외부 검증 촉구

한 의견 기고문은 은행과 병원, 공장의 인공지능 도입이 시스템 검증과 신뢰 확보의 어려움에 가로막혀 있다고 주장한다. 매그니피센트 세븐은 한 거래일 만에 시가총액이 1조 달러 넘게 줄었다. 비암이 6월 경영진 600명을 대상으로 실시한 설문조사에서 88%는 인공지능 에이전트를 시범 운영 중이었지만, 조직이 인공지능을 도입할 준비를 제대로 갖췄다고 평가한 비율은 7%에 그쳤다. 사이버헤이븐에 따르면 직장에서 사용하는 인공지능 도구의 71.7%는 위험도가 높거나 심각한 수준이었고, 인공지능에 제출된 기업 데이터의 83.8%는 위험한 도구로 전송됐다. 앤트로픽이 11월 2일 수정 제출한 S-1에 따르면 9월 30일로 끝난 3개월간 매출은 169억 6,000만 달러였고, 전 분기 대비 성장률은 144%에서 47%로 둔화했다. 대부분 컴퓨팅 관련 약정은 8,950억 달러로 현금 1,320억 달러와 대비됐다. 내부 추정에 따르면 앤트로픽의 모델은 인공지능이 주도하는 진전이 극적으로 가속화되는 책임 있는 확장 정책의 기준점에 곧 근접할 수 있으며, 이 경우 추가적인 제품 통제가 필요하다. 필자는 중국의 은행과 공장도 비슷한 신뢰 장벽에 직면해 있다고 말한다. 중국 정부의 규제 체계는 독립적인 기술 감사와 상업적 책임보다는 주로 콘텐츠 안전과 사회 안정에 초점을 맞추고 있다고 지적한다. 필자는 미국과 중국의 인공지능 기업들이 외부 감사를 수용하고 평가 결과를 공개하며 구속력 있는 상업적 책임을 받아들여야 한다고 촉구한다. 검증 가능한 기준을 확립하고 기존 산업의 도입을 가능하게 하려면 독립적인 감독이 필요하다고 주장한다.