AMD·델·스펙트로 클라우드, 기업용 AI 코딩 플랫폼 공개

AMD, 델 테크놀로지스, 스펙트로 클라우드가 기업용 온프레미스 AI 코딩 플랫폼인 인스팅트 코더 355를 공개했다. AMD는 클라우드 기반 최첨단 모델 대비 총소유비용을 최대 75% 줄일 수 있다고 밝혔다. 이 시스템은 델 파워엣지 XE9785 서버와 AMD 에픽 9575F 프로세서, 인스팅트 MI355X GPU를 결합한다. 각 노드는 동시 사용자 50명을 포함해 최대 85명의 개발자를 지원하며, 최첨단 모델의 벤치마크 성능 대비 최대 98%를 달성한다. 스펙트로 클라우드의 팔레트AI 인퍼런스 런치패드는 AI 생명주기를 관리하며, GLM-5.3은 로컬 추론을 제공한다. 이 플랫폼에서는 앤스로픽 클로드, 오픈AI GPT, 구글 제미나이에도 접근할 수 있다. 워크로드 라우팅, 예산, 사용량 측정 및 할당량은 유료 최첨단 모델 API 사용을 제한하기 위한 것이다. 민감한 워크로드는 기업 데이터 정책에 따라 온프레미스에 둘 수 있다. 이 플랫폼은 오픈 모델을 지원하며 비주얼 스튜디오 코드와 클로드 코드 등의 도구와 통합할 수 있다.