주요 변경 사항

• 자동 디바이스 탐지 및 EP(Execution Provider) 자동 다운로드 기능이 새롭게 추가되었다. 그런데 이 기능은 현재 Windows 11 25H2 이상에서만 지원된다는 조건이 붙었다. (GitHub)

• 신규 EP로 TensorRT RTX Execution Provider(엔비디아 RTX GPU용)이 추가되었다. 이로써 고성능 GPU 기반 추론 환경에서 더 최적화된 실행이 가능해졌다. (ONNX Runtime)

• 한편, AMD 플랫폼을 위한 ROCm Execution Provider이 소스 트리에서 제거되었다. 기존 이 EP를 사용하던 코드/빌드 파이프라인은 다른 EP(예: MIGraphX, Vitis AI)로 전환이 요구된다. (SourceForge)

왜 이 변화가 주목되는가

• 자동 디바이스 탐지 및 EP 자동 다운로드 기능은, 개발자가 하드웨어 종류(CPU, GPU, 특정 GPU 아키텍처)마다 EP를 일일이 지정하거나 설치하는 번거로움을 크게 줄여준다.

• NVIDIA RTX 전용 EP의 등장은, RTX 30xx 이후 아키텍처에서의 성능을 최대한 활용하고자 하는 애플리케이션에 특히 관심거리이다. 예컨대 실시간 AI 추론, 에지 디바이스, 고성능 클라이언트 머신 등이 그 대상이다.

• 반대로 ROCm EP 제거는 AMD GPU를 사용하는 개발/운영환경에는 적지 않은 영향이다. 즉, AMD 플랫폼을 계속 사용한다면 EP 전환 계획을 세워야 한다.

참고로 점검해야 할 사항

• 자동 EP 다운로드 기능이 Windows 11 25H2 이상에서만 작동하므로, 이전 버전 OS나 리눅스/맥 환경에서는 여전히 수동 설정이 필요할 수 있다.

• RTX Execution Provider를 사용하려면 해당 GPU 아키텍처와 드라이버 요구사항을 꼭 확인해야 한다. (ONNX Runtime)

• AMD 측 EP 전환 시 버전 호환성, 지원중단 이슈 등을 미리 검토해야 다운타임이나 빌드 실패를 방지할 수 있다.