오픈AI, AI 모델 작업 감시·중단 시스템 도입

오픈AI는 안전 및 보안 우려에 대응해 AI 모델 작업을 감시하고 중단할 수 있도록 연구 인프라 전반에 컨트롤 룸을 배포했다. 이 시스템은 개입 결정 후 35초 이내에 모델 출력을 중단할 수 있으며, 오픈AI의 정렬 이탈 감시 도구와 함께 작동한다. 각 작업에 대해 추론 엔진은 컨트롤 룸에 승인 여부를 확인하며, 종료 대상으로 표시된 작업은 추가 출력을 할 수 없다. 컨트롤 룸이 오프라인 상태가 되면 추론 요청을 거부하도록 시스템이 설정돼 있다. 오픈AI는 보다 중앙집중화된 외부 모델 서비스 체계도 필요한 경우 신속하게 중단할 수 있다고 밝혔다.