TPU, AMD 부사장 인터뷰: Ryzen AI, X3D, Zen 4 미래 전략

 

소개

AMD는 최근 Zen 4, RDNA 3 그래픽 및 Ryzen AI로 구동되는 얇고 ​​가벼운 노트북용 Ryzen 7040HS 모바일 프로세서 라인을 출시했습니다. 이 회사는 또한 상업용 PC 시장을 위해 Ryzen PRO 데스크톱 및 모바일 Zen 4 프로세서를 출시했습니다. 2022년 말과 2023년에 걸쳐 이 회사는 데스크탑 프로세서 라인업을 점진적으로 확장하여 이제 15개의 SKU로 강력해졌습니다. 회사는 아직 2023년 Ryzen 클라이언트 프로세서 발표를 마치지 않았습니다. 우리는 회사의 클라이언트 프로세서 비즈니스가 현재 위치와 향후 방향에 대한 조감도를 갖고 있는 AMD 클라이언트 채널 비즈니스의 기업 부사장 겸 총괄 매니저인 David McAfee를 만났습니다. 그는 데스크톱 및 모바일용 AMD의 Ryzen 프로세서를 담당하는 책임자입니다.

David와의 인터뷰에서 우리는 Ryzen 프로세서 제품군이 시장 부문 전반에 걸쳐 어떤 모습인지, Ryzen AI에 대한 소문은 무엇인지, 클라이언트 로컬 AI 하드웨어 가속기에 대해 많이 언급된 AMD에 대해 자세히 살펴보았습니다. AMD는 Ryzen 7000 프로세서 제품군을 통해 일부 제품 스택 결정을 내렸습니다. 이것은 Zen 4 아키텍처 심층 인터뷰가 아닙니다. 우리는 이미 Robert Hallock과 함께 했습니다. 이 인터뷰는 AMD가 시장 부문에서 Ryzen 7000 프로세서 제품군에 대해 내린 보다 높은 수준의 결정에 대해 조명해야 합니다.

라이젠 AI

Ryzen CPU의 AI에 대한 비전에 대해 조금 말씀해 주시겠습니까?

AI는 몇 년 동안 AMD의 주요 초점 영역이었으며 AMD와 Xilinx가 함께 하는 시기는 매우 운이 좋았습니다. 2006년 AMD와 ATI가 함께 했을 때 두 기술을 결합한 첫 번째 제품이 2012년에 출시되었습니다. 그렇게 되기까지 오랜 시간이 걸렸습니다. Ryzen APU에 Xilinx AI 엔진을 통합한 것은 AMD와 Xilinx 인수가 완료된 지 1년이 조금 넘은 시점에서 이루어졌습니다. 이것은 AI에 대한 우리의 계획과 AI가 앞으로 우리 프로세서의 큰 부분이 되는 것에 대한 중요성을 말해줍니다. AI에 대한 MD의 비전은 에지에서 클라우드 및 그 사이의 모든 것에 걸쳐 있으며 AI는 우리가 하는 많은 일을 향상시킬 것입니다. 클라이언트 측에서 그것에 대해 생각할 때, 저는 여러분이 게이머이든, 크리에이터든, 아니면 둘 다이든, 주로 생산성을 위해 PC를 사용하든,

 

보다 지능적인 NPC와 같은 게임의 생성 AI 또는 AI를 사용하여 워크플로를 자동화하고 모델링, Adobe 제품군 또는 프로그래밍 등 매우 복잡한 개발 패키지의 진입 기준을 낮추기 위해 생성 AI를 포함하는 크리에이터 공간의 모든 것입니다. 공백. 생산성 공간에서 마이크로소프트가 지난주 Build에서 이야기했던 것 같습니다. 컴퓨터와 개인적으로 상호 작용하는 방식으로 AI를 통합하여 매일 수행하는 많은 작업을 자동화하는 부조종사 유형의 기능에 대한 아이디어입니다. 저는 Panos Panay[Microsoft 최고 제품 책임자]가 AI에 대해 이야기할 때 한 말을 훔친 것 같습니다. Microsoft는 AI를 마우스보다 PC 경험에 더 많은 변화를 가져올 것으로 보고 있습니다. 꽤 대담한 발언이라고 생각합니다만, 그러나 시간이 지남에 따라 AI가 이러한 모든 워크플로에 어떻게 영향을 미치는지 알 수 있습니다. AI는 오늘날 우리가 PC로 하는 많은 일에 긍정적인 영향을 미칠 수 있는 놀라운 잠재력을 가지고 있으며, 디지털 공간과 상호 작용하는 방식을 바꾸고 오늘날에는 단순히 불가능한 개인 맞춤형 비서 및 향상된 경험을 생성합니다.

약간 조각난 것 같습니다. Ryzen 7040 "Phoenix"에는 Ryzen AI와 포괄적인 하드웨어 기능 세트가 있습니다. Radeon RDNA3 GPU에는 AI 가속기(스칼라 매트릭스 수학 가속기)가 있고 Zen 4에는 AVX-512, bfloat16 및 VNNI가 지원됩니다. ISV를 위한 보다 통합된 인터페이스를 제공하기 위해 이들을 통합할 수 있는 방법이 있습니까?

예, 방법이 있습니다. 내가 말할 수 있는 것은 모델마다 실행 방식에서 서로 다른 유형의 정밀도를 선호한다는 것입니다. GPU 컴퓨팅을 살펴보면 수년 동안 FP16 및 FP32는 GPU가 좋아하는 가장 효율적인 연산자 유형이었습니다. 이것이 우리의 GPU와 NVIDIA가 이러한 유형의 계산에서 탁월한 이유입니다. CPU, 예, VNNI, bfloat16, 이러한 모든 명령어가 x86 명령어 세트에 추가되었습니다. Ryzen AI 또는 XDNA를 볼 때 그 엔진에 대한 중요한 점은 INT8, INT16과 같이 저정밀도 정수 연산에 맞게 조정되었다는 것입니다. 어떤 사람들은 INT4에 대해서도 이야기하고 있습니다. Ryzen AI 엔진은 반드시 새로운 명령어 세트를 새로운 명령어 유형으로 가져오거나 새로운 연산자 유형을 해당 모델로 가져오지 않습니다. 신경망의 계층이 이를 위해 완전히 구축된 엔진을 얻는 방식으로 수행할 수 있다고 생각하는 것과 같은 방식으로 곱하기-누적-수집 작업에서 매우 효율적입니다. 이러한 다양한 유형의 실행 엔진은 어떤 면에서 서로를 보완한다고 생각합니다.

 

Ryzen AI와 그것이 노트북에 있는 이유는 기능만큼이나 와트당 처리량과 와트당 성능에 관한 것입니다. 진실은 이러한 명령 유형에 대해 올바른 방식으로 양자화될 때 많은 엔진과 모델이 CPU 또는 GPU에서 쉽게 실행될 것이기 때문입니다. 여기서 궁극적인 비전은 오늘날 여러분이 보고 있는 것이 AI의 얼리 어답터이거나 비디오 피드 처리, 시선 교정, 배경 분할 등과 같은 것입니다. 흥미롭지만 그것들은 AI의 주기적인 사용이며 AI가 어디로 가는지에 대한 궁극적인 비전은 AI가 지속적으로 실행되는 것이 아니라 시스템의 백그라운드 작업으로 정기적으로 실행되는 무언가가 되는 것이라고 생각합니다. 배터리 수명을 죽이거나 과도한 열을 발생시키지 않고 이를 수행할 수 있도록 SoC에 고도로 에너지 최적화된 엔진을 갖추는 것은 매우 중요합니다. 현실은 CPU가 그 모든 일을 할 수 있지만 CPU는 그러한 유형의 작업에 최적화되어 있지 않다는 것입니다. 나에게 그것은 비유입니다. VP9 비디오 스트림을 가져 와서 CPU에서 디코딩하면 배터리 수명이 완전히 파괴됩니다. 완전히 최적화된 비디오 재생 엔진에서 그렇게 하면 몇 시간 동안 비디오를 재생하는 배터리 수명을 얻을 수 있습니다. Ryzen AI 엔진이 무엇이며 애플리케이션 및 OS 경험의 일부로 AI의 보다 지속적인 운영을 가능하게 하는 측면에서 무엇을 할 것인지에 대해 생각해 볼 때 상당히 좋은 비유라고 생각합니다. CPU는 해당 유형의 작업에 최적화되어 있지 않습니다. 나에게 그것은 비유입니다. VP9 비디오 스트림을 가져 와서 CPU에서 디코딩하면 배터리 수명이 완전히 파괴됩니다. 완전히 최적화된 비디오 재생 엔진에서 그렇게 하면 몇 시간 동안 비디오를 재생하는 배터리 수명을 얻을 수 있습니다. Ryzen AI 엔진이 무엇이며 애플리케이션 및 OS 경험의 일부로 AI의 보다 지속적인 운영을 가능하게 하는 측면에서 무엇을 할 것인지에 대해 생각해 볼 때 상당히 좋은 비유라고 생각합니다. CPU는 해당 유형의 작업에 최적화되어 있지 않습니다. 나에게 그것은 비유입니다. VP9 비디오 스트림을 가져 와서 CPU에서 디코딩하면 배터리 수명이 완전히 파괴됩니다. 완전히 최적화된 비디오 재생 엔진에서 그렇게 하면 몇 시간 동안 비디오를 재생하는 배터리 수명을 얻을 수 있습니다. Ryzen AI 엔진이 무엇이며 애플리케이션 및 OS 경험의 일부로 AI의 보다 지속적인 운영을 가능하게 하는 측면에서 무엇을 할 것인지에 대해 생각해 볼 때 상당히 좋은 비유라고 생각합니다. 비디오를 재생하는 몇 시간의 배터리 수명을 얻을 수 있습니다. Ryzen AI 엔진이 무엇이며 애플리케이션 및 OS 경험의 일부로 AI의 보다 지속적인 운영을 가능하게 하는 측면에서 무엇을 할 것인지에 대해 생각해 볼 때 상당히 좋은 비유라고 생각합니다. 비디오를 재생하는 몇 시간의 배터리 수명을 얻을 수 있습니다. Ryzen AI 엔진이 무엇이며 애플리케이션 및 OS 경험의 일부로 AI의 보다 지속적인 운영을 가능하게 하는 측면에서 무엇을 할 것인지에 대해 생각해 볼 때 상당히 좋은 비유라고 생각합니다.

AI의 가치 제안

따라서 주요 판매 포인트는 CPU에서도 실행될 수 있는 특정 워크로드를 실행할 수 있는 기능보다 오히려 에너지 효율성입니다.

맞습니다. 그리고 저는 오늘날의 AI 엔진이 특정 방식으로 크기가 조정되고 10억 개의 매개변수가 큰 언어 모델을 노트북의 해당 엔진에서 실행할 수 있는 방식으로 크기가 지정되지 않는다는 것도 사실이라고 생각합니다. CPU에서 할 수 있다고 생각하지만 그것만으로도 상당한 부담이 될 것입니다. 하지만 오늘날 AI 엔진이 할 수 있는 공간에 맞지 않는 크기의 모델이 있을 것이라고 생각합니다. 따라서 향후 몇 년 동안 AI 경험에 가장 큰 영향을 미칠 회사, OS 제공업체 및 소프트웨어 제공업체를 이해하고 그들의 비전이 어디에 있는지, 어디로 가고 있는지, 원하는 것이 무엇인지를 이해하면서 미래에 대해 생각하면서 둘 다에 관한 것입니다. 구현하고 그 비전을 현실로 바꾸려면 하드웨어에서 무엇이 필요합니까?

 

 

FPGA를 CPU에 장착한 다음 미래를 보장하는 것이 합리적이지 않습니까?

솔직히 그것은 우리가 보고 고려한 것입니다. FPGA에는 고유한 문제와 제한 사항이 있다는 것을 알고 계실 것입니다. 다이 면적의 밀리미터당 기능과 관련하여 FPGA는 Ryzen AI 엔진과 같은 구조보다 덜 효율적입니다. 제 생각에 현실은 모든 비용이 중요한 소비자 장치에서 유연한 엔진이 시스템에서 수행해야 하는 작업을 충족할 수 있는 충분한 기능을 구현할 수 있는 충분히 중요한 방식으로 투자하기가 매우 어렵다는 것입니다.

 

출처 : https://www.techpowerup.com/review/amd-ryzen-interview-ai-zen-4-strategy/

 

#AMD #RYZEN_AI #X3D #ZEN4