AMD Radeon 7900 XTX, 안정적인 확산 최적화로 생성 AI에서 890% 속도 향상 달성

 

NVIDIA는 AI 대화를 절대적으로 지배하고 있습니다. NVIDIA의 GPU는 즉시 사용 가능한 성능을 발휘하며 소비자 AI에 손을 대고자 하는 전문가와 기업을 위한 최고의 선택입니다. 그러나 바로 이번 주에 인텔과 AMD는 소프트웨어 스택을 최적화하여 생성 AI에서 엄청난 속도 향상을 얻었습니다. AMD의 RTX 7900 XTX는 생성 AI(특히 A111/Xformers를 사용한 안정적인 확산)에서 NVIDIA RTX 4080보다 더 높은 달러당 성능을 얻었습니다. 현재 Stable Diffusion이 SaaS가 아닌 지역화된 생성 AI의 대다수를 차지한다는 점을 고려하면 이는 중요한 이정표이며 마침내 NVIDIA에 대한 경쟁을 제공합니다.

AMD의 7900 XTX는 NVIDIA RTX 4080(xformers)보다 Stable Diffusion(Automatic111 with DirectML)에서 달러당 더 높은 반복을 달성합니다.

 

참고: 암호화 마이닝 성능을 위한 튜닝과 마찬가지로 GenAI를 위한 튜닝은 사용 중인 모델/구성에 따라 마일리지가 크게 달라집니다. 이 문서는 가장 일반적인 A111 Xformers 구성에 관한 것입니다(여기에서 GPU별 평균 성능의 실행 집계를 얻을 수 있습니다: https://vladmandic.github.io/sd-extension-system-info/pages/benchmark.html). * 는* NVIDIA RTX 4080이 더 빠른 초고속 최적화입니다.

PyTorch 경로 대신 Microsoft Olive 및 DirectML을 사용하면 AMD 7900 XTX가 초당 1.87에서 초당 18.59까지 반복됩니다! 여기에서 AMD의 자세한 가이드를 읽을 수 있습니다 . Automatic111의 이러한 수준의 성능은 안정적인 확산에 대한 SHARK 기반 접근 방식 과 매우 유사하며 확실히 생성 AI와 관련하여 회사를 지도에 올려놓습니다. 결과적으로 7900 XTX는 적어도 현재 가격에서 비교 RTX 4080보다 달러당 약간 더 높은 GenAI 성능(Stable Diffusion /A111 기준)을 제공합니다.

 

Newegg(2023년 8월 19일 기준)에서 찾을 수 있는 가장 저렴한 NVIDIA RTX 4080은 MSI Ventus GeForce RTX 4080 16GB (WBM 보관 링크는 여기 )였으며 Newegg에서 찾을 수 있는 가장 저렴한 AMD Radeon 7900 XTX는 MSI Gaming Radeon RX 였습니다. 7900 XTX 24GB (WBM 보관 링크는 여기). 숫자를 계산하기 전에 NVIDIA와 달리 AMD 경로는 사용자가 기술에 정통해야 한다는 주의 사항을 언급하고 싶습니다(AMD 경로는 PyTorch 대신 Microsoft Olive를 사용하며 대부분의 자동 설치 프로그램은 종속 항목을 설치하지 않을 가능성이 높습니다) 자동으로 필요함) - 편의성이 중요한 요소인 경우 - NVIDIA는 여전히 갈 길입니다. 그러나 전문가와 소기업은 일반적으로 비용 기준이 충분하고 여기에 해당하는 경우 초기 설정 번거로움을 피할 수 있습니다.

 

보시다시피 AMD 실리콘은 마침내 GenAI에서 Stable Diffusion A111의 4080에 비해 더 높은 가치를 제공하는 지점까지 빛나기 시작했습니다. AMD 7900 XTX는 초당 18.59회 반복을 제공하여 사용자가 초당 52.1달러를 지불하는 반면 NVIDIA RTX 4080은 초당 19.41회 반복을 제공하여 사용자가 초당 56.6달러를 지불합니다. 사용자가 흔하지 않은 SHARK 구현을 선택하는 경우 Radeon 7900 XTX에 대한 가치 제안을 최대 $46.6까지 높일 수 있습니다. 따라서 공식 - AMD는 공식적으로 생성 AI에 관심이 있는 소비자를 위한 경쟁자입니다.

 

이것은 또한 AMD로부터 약간만 더 많은 관심을 받는다면 NVIDIA의 AI 야망에 대한 만만치 않은 경쟁자가 될 수 있음을 의미합니다. 대부분의 사람들은 지하실에서 LLM을 실행하지 않을 것이지만 GenAI 및 SLM/ULM은 향후 12개월 이내에 절대적으로 모든 곳에서 많은 생산성 워크플로의 일부가 될 것입니다. 엔비디아가 앞장서고 있는 시장에서 인텔과 AMD가 어떻게 포지셔닝하느냐에 따라 AI가 지배하게 될 세상에서 어떻게 대처할 것인지가 결정될 것입니다.

 

출처 : https://wccftech.com/amd-radeon-7900-xtx-offers-higher-generative-ai-performance-per-dollar-than-nvidia-rtx-4080-after-990-speedup/

 

#amd #radeon #rx7900xtx #ai #스태블디퓨전