오픈AI 국가안보 부책임자 지어, 미중 AI 대화 앞두고 짚은 위험

오픈AI의 국가안보 부문 부책임자 캐럴라인 지어는 다가오는 AI 회담에서 미국 정부가 중국과 공유할 정보에 신중해야 한다고 촉구했다. 양측이 안전과 통제력 상실 위험을 논의할 때 같은 의미로 이야기하는지 의문을 제기했다. 스콧 베선트 미국 재무장관과 허리펑 중국 부총리는 선전 APEC에서 예정된 트럼프 미국 대통령과 시진핑 중국 국가주석의 회담에 앞서 이달 말 만날 것으로 예상된다. 9월 정상회담 이후 나온 성명에는 AI의 위험과 이익을 다루는 메커니즘과 AI 관련 사고 소통 채널이 명시됐다. 조지타운대 연구원 샘 브레스닉은 중국의 느린 정보 공유를 이유로 제안된 핫라인이 제대로 작동할지 의문을 제기했다. 중국 대사관은 중국이 대화에 열린 자세를 유지하고 있으며 AI 위험을 심각하게 받아들이고 있다고 밝혔다. 지어 부책임자는 사전 합의 없이 한 모델의 출력물을 다른 모델의 훈련에 사용하는 무단 증류가 주로 중국 연구소에서 이뤄진다고 말했다. 이는 약관을 위반하며 보호 대상 지식재산을 추출하고 안전장치를 제거할 수 있다고 설명했다. 중국은 딥시크와 알리바바를 포함한 6개 기업에 대한 미국의 의혹 제기를 부인하고 대응 조치를 경고했다. 패널들은 중국의 가중치 공개 모델 사용에 대해 논의하며 이들 모델이 성능이 뛰어나고 비용이 낮다고 평가했다. 리플렉션 AI의 마이클 오르티스는 미국 AI 스타트업의 거의 80%가 이들 모델을 활용하고 있다는 추정치를 인용했다. 지어 부책임자와 브레스닉 연구원은 중국 모델에 의존할 경우 향후 다른 모델로 전환하는 비용이 발생하거나 중국 기술에 종속될 수 있다고 경고했다.