엔비디아, DGX 슈퍼팟 운영에 AI 에이전트 투입

엔비디아가 DGX 슈퍼팟 환경에 배포되는 프레임워크인 AI 팩토리 오퍼레이션스 에이전트를 공개했다. 이 프레임워크는 인프라 관리를 간소화하고 사이트 신뢰성 엔지니어의 수작업 부담을 줄이기 위해 마련됐다. 전문 에이전트들은 학습 작업 실패와 하드웨어, 네트워킹, 관측 가능성, 쿠버네티스 스케줄링, 클러스터 관리 전반의 문제를 분석한다. 실제 운영에서는 장애 감지와 여러 계층에 걸친 근본 원인 분석, 엔지니어를 위한 권고 기능을 보여줬다. 이 시스템은 쿠버네티스 제어 영역 애플리케이션으로 실행되며 엔비디아의 네모클로 블루프린트, MCP로 연결된 도구, 로컬에서 제공되는 네모트론 모델을 사용한다. 온프레미스 배포도 지원한다. 보안 통제에는 역할 기반 권한, 특정 작업에 대한 읽기 전용 접근, 셸 명령을 위한 격리된 쿠버네티스 샌드박스가 포함된다. 엔비디아는 이 프레임워크가 다른 대규모 AI 팩토리로 확장될 수 있도록 설계됐다고 밝혔다.