AI 혁명과 Nvidia와의 경쟁에 관한 AMD CEO Lisa Su

올해 코드 컨퍼런스에서는 세계 최대 컴퓨터 칩 회사 중 하나의 CEO가 Nvidia의 선도적인 GPU, AI 규제 및 글로벌 공급망과의 경쟁에 대해 논의합니다.

오늘은 조금 색다른 소식을 전해드리겠습니다. 코드 컨퍼런스는 이번 주에 있었고 , 우리는 모든 손님들과 함께 무대 위에서 라이브로 이야기를 나누며 즐거운 시간을 보냈습니다. 우리는 앞으로 이곳에서 이러한 대화를 많이 공유할 예정이며, 첫 번째로 AMD의 CEO인 Lisa Su 박사와의 대화를 공유하겠습니다.

Lisa와 저는 30분 동안 대화를 나누면서 특히 AI와 칩 공급망에 관해 엄청나게 많은 주제를 다루었습니다. 지난 몇 년 동안 팬데믹으로 인해 더욱 악화된 세계적인 칩 부족 현상이 있었고, 이제는 AI 모델을 실행하려는 모든 사람들 덕분에 수요가 갑자기 급증했습니다. Lisa는 모든 사람이 실행하는 모든 대형 AI 모델을 구동하는 이러한 고급 GPU를 제외하면 현재 전반적으로 수요와 공급의 균형이 꽤 좋은 상태라고 말했습니다.

게임에서 가장 인기 있는 GPU는 Nvidia의 H100 칩입니다. 그러나 AMD는 Lisa가 우리에게 H100만큼 빠른 MI300이라는 새로운 칩과 경쟁하기 위해 노력하고 있습니다. 개발자가 Nvidia와 AMD 사이를 쉽게 이동할 수 있도록 소프트웨어에서도 많은 작업이 진행되고 있습니다. 그래서 우리는 그것에 착수했습니다.

또한 Lisa가 제조 능력을 높이기 위해 기업들이 무엇을 하고 있는지에 대해 이야기하는 것을 듣게 될 것입니다. 최근 통과된 CHIPS 및 과학법은 이곳 미국에서 칩 제조를 구축하는 데 큰 진전을 이루었지만 Lisa는 해당 공급을 확보하는 데 오랜 시간이 걸린다고 말했습니다. 그래서 저는 AMD가 이 공급망을 어떻게 다양화하고 이 새로운 수요를 모두 충족할 수 있는 충분한 용량을 확보하려고 하는지 알고 싶었습니다.

마지막으로 Lisa는 놀라운 Code 청중의 질문에 답하고 현재 AMD가 회사 내부에서 AI를 얼마나 많이 사용하고 있는지에 대해 많은 이야기를 나눴습니다. Lisa는 AI가 조만간 칩을 자체적으로 설계하지 않을 것이라고 말했지만 이는 여러분이 생각하는 것 이상입니다.

좋아요, AMD의 CEO인 Lisa Su 박사님. 여기 있습니다.

이 녹취록은 길이와 명확성을 위해 약간 편집되었습니다.

안녕 안녕. 만나서 반가워.

만나서 반가워.

저를 초대해 주셔서 감사합니다.

할 얘기가 너무 많아요. 카드 500장 분량의 질문이요. 우리는 밤새 여기에 있을 예정이에요. 하지만 흥미로운 것부터 시작해 보겠습니다. AMD는 오늘 AI 시장에서 몇 가지 소식을 전했습니다. 무슨 일이야?

글쎄요, 우선 이번 컨퍼런스 전체의 주제인 AI는 요즘 기술 분야의 모든 분야의 주제라고 말씀드릴 수 있습니다. 그리고 우리가 AI를 실제로 발전시킬 수 있는 컴퓨팅의 모든 기회를 살펴보면 그것이 바로 우리가 작업하고 있는 것입니다. 네, 오늘 아침에 우리는 Lamini라는 신생 기업에서 우리와 함께 일해 온 훌륭한 회사이자 대규모 언어 모델 분야의 최고 연구원들로부터 발표를 받았습니다 .

그리고 모두를 위한 핵심은 제가 CEO들과 이야기할 때 사람들이 모두 “AI에 관심을 기울여야 한다는 것을 압니다. 나는 뭔가를 해야 한다는 것을 안다. 하지만 나는 무엇을 해야 합니까? 너무 복잡해요. 요인이 너무 다양해요.” 그리고 훌륭한 기본 모델인 Llama와 같은 기본 모델을 통해 많은 기업은 실제로 해당 모델을 자체 데이터로 사용자 정의하고 개인 환경과 애플리케이션에서 이를 수행할 수 있는지 확인하기를 원합니다. 그리고 그것이 라미니가 하는 일입니다.

그들은 실제로 모델을 맞춤화하고 기업용 모델을 미세 조정하며 AMD GPU에서 작동합니다. 그래서 그것은 멋진 일이었습니다. 그리고 우리는 그들과 약간의 시간을 보냈습니다. 정말 많은 시간을 들여 소프트웨어와 애플리케이션을 최적화하여 기업적이고 정밀하게 조정된 모델을 가능한 한 쉽게 개발할 수 있도록 했습니다.

저는 그 소프트웨어에 대해 심도있게 이야기하고 싶습니다. 하드웨어에서 벗어나 다양한 수준의 소프트웨어 개발을 추상화하는 것이 매우 흥미롭다고 생각합니다. 그러나 나는 그것으로 돌아가고 싶다.

저는 칩 시장부터 광범위하게 시작하고 싶습니다. 우리는 모든 프로세스 노드에 걸쳐 칩에 있어서 매우 놀라운 제약의 시대를 벗어나고 있습니다. 우리가 지금 어디에 있다고 생각하시나요?

흥미 롭군. 저는 지난 30년 동안 반도체 사업에 종사해 왔지만 가장 오랫동안 사람들은 반도체가 무엇인지, 전체 공급망에서 어디에 속하고 어디에 있는지조차 이해하지 못했습니다. 응용 프로그램에 필요합니다. 지난 몇 년 동안, 특히 팬데믹으로 인한 수요와 AI로 하는 모든 일로 인해 사람들은 이제 반도체에 집중하고 있는 것 같습니다.

엄청난 악순환이 있었던 것 같아요. 하나는 우리가 가지고 있는 것보다 훨씬 더 많은 칩이 필요한 사이클이고, 다른 하나는 칩이 너무 많은 사이클입니다. 하지만 결국 반도체는 수많은 응용 분야에 필수적이라고 생각합니다. 특히 우리가 집중하고 있는 것은 가장 복잡하고, 최고의 성능을 자랑하는 반도체의 최첨단 기술입니다. 그리고 저는 시장이 엄청나게 성장하고 있다고 말하고 싶습니다.

지금 병목 현상이 무엇이라고 생각하시나요? 최첨단인가요? 칩 부족 중에 우리가 들었던 오래된 프로세스 노드에 있습니까?

저는 업계 전체가 전반적인 수요를 충족시키기 위해 많은 역량을 투입할 수 있는 생태계로 함께 모였다고 생각합니다. 따라서 일반적으로 GPU를 제외하면 수요/공급 균형이 꽤 좋은 위치에 있다고 말하고 싶습니다. 대규모 언어 모델 훈련과 추론을 위해 GPU가 필요하다면 지금 당장은 부족할 것입니다. 조금 빡빡합니다.

필요한 경우 리사가 뒤에 준비해 두었습니다.

하지만 보세요, 사실 우리는 전체 공급망을 강화하기 위해 엄청난 노력을 기울이고 있습니다. 이는 수천억 개의 트랜지스터와 수많은 첨단 기술 등 세계에서 가장 복잡한 장치 중 일부입니다. 그러나 전체적으로 공급이 절대적으로 증가하고 있습니다.

CHIPS 및 과학법(CHIPS and Science Act)이 작년에 통과되어 이 나라의 팹에 막대한 투자가 이루어졌습니다. AMD는 분명히 세계 최대의 팹리스 반도체 회사입니다. 아직까지 눈에 띄는 효과가 나타났나요? 아니면 아직 결실을 맺기를 기다리고 있나요?

CHIPS 및 과학법과 그것이 미국 반도체 산업에 미치는 영향을 살펴보면 정말 환상적인 일이라고 생각합니다. 나는 Gina Raimondo와 상무부가 업계와 함께 하고 있는 모든 일에 경의를 표합니다. 이것은 리드타임이 긴 것들입니다. 미국의 반도체 생태계는 5년 전부터 구축이 필요했다. 지금은 특히 선두에서 확장되고 있지만 시간이 좀 걸릴 것입니다.

그래서 지금 우리가 그 효과를 느끼고 있는지 모르겠습니다. 그러나 우리가 항상 믿는 것 중 하나는 장기적으로 더 많이 투자할수록 그러한 효과를 볼 수 있다는 것입니다. 그래서 저는 육상 용량에 대해 매우 기대하고 있습니다. 또한 장기적인 반도체 강점과 리더십을 위해 매우 중요하기 때문에 국가 연구 인프라에 대한 일부 투자에 대해서도 매우 기대하고 있습니다.

AMD의 결과는 그 자체로 말해줍니다. 몇 년 전보다 훨씬 더 많은 칩을 판매하고 있습니다. 그 공급품을 어디서 찾았나요? 새로운 팹이 등장하기를 기다리는 동안 여전히 TSMC에 의존하고 계십니까?

다시 말하지만, 우리가 하고 있는 사업을 살펴보면 최첨단 기술을 추진하고 있습니다. 그래서 우리는 항상 가장 발전된 노드에 있으며 차세대 혁신을 이루기 위해 노력하고 있습니다. 그리고 프로세스 기술, 제조, 디자인, 디자인 시스템이 모두 결합되어 있습니다. 우리는 TSMC와의 파트너십에 매우 만족합니다. 그들은 진보된 최첨단 기술을 갖춘 세계 최고입니다.

그게 다야, 그렇지? 그들로부터 다양화할 수 있습니까?

내 생각엔 핵심은 지리적 다양성인 것 같아, 닐레이. 그래서 지리적 다양성에 대해 생각해 보면, 그건 그렇고, 이것은 무슨 일이 있어도 사실입니다. 자연적인 위험이 발생하기 때문에 누구도 같은 장소에 있고 싶어하지 않습니다. CHIPS 및 과학법(CHIPS and Science Act)이 실제로 도움이 된 이유는 현재 미국에 상당한 수의 제조 공장이 건설되고 있기 때문입니다. 그들은 실제로 다음 분기에 걸쳐 생산을 시작할 예정이며, 우리는 이곳 미국에서 일부 제조를 적극적으로 수행할 것입니다.

나는 인텔 CEO Pat Gelsinger가 오하이오에서 착공했을 때 그와 이야기를 나눴습니다. 그들은 주조 공장이 되려고 노력하고 있습니다. 그는 매우 자신있게 "이 팹 중 하나의 측면에 AMD 로고를 붙이고 싶습니다"라고 말했습니다. 그는 그것을 현실로 만드는 데 얼마나 가까웠습니까?

글쎄요, 저는 이렇게 말하고 싶습니다. 나는 국내 제조에서 우리가 확실히 수많은 기회를 보고 있다고 말하고 싶습니다. 나는 Pat이 매우 야심찬 계획을 가지고 있다고 생각하며 그것이 거기에 있다고 생각합니다. 우리는 항상 최고의 제조 파트너가 누구인지 살펴보고 있으며, 우리에게 가장 중요한 것은 최첨단 기술에 헌신하는 사람입니다.

시장에 TSMC의 경쟁자가 있나요?

시장에는 항상 경쟁이 존재합니다. TSMC는 확실히 매우 좋습니다. 삼성은 확실히 많은 투자를 하고 있습니다. 인텔을 언급하셨는데요. 일본에서도 첨단 제조업을 육성하기 위한 활동이 있다고 생각합니다. 그래서 다양한 옵션이 있습니다.

이 스레드의 마지막 질문입니다. 그 다음에는 AI에 관해 이야기하고 싶습니다. 최근 화웨이 관련으로 많은 논란이 있었습니다. 그들은 7나노미터 칩을 내놓았습니다 . 이것은 지구를 뒤흔드는 지정학적 사건이거나 헛소리입니다. 당신은 그것이 무엇이라고 생각합니까?

어디 보자. 나는 그것을 지구를 뒤흔드는 지정학적 사건이라고 부를지 모르겠습니다. 제 생각에는 기술이 국가 안보의 중요성으로 간주된다는 점에는 의심의 여지가 없습니다. 그리고 미국의 관점에서 볼 때, 우리는 이러한 선두를 계속 유지하고 싶다고 생각합니다. 이번에도 미국 정부가 이 부분에 많은 시간을 투자했다고 생각합니다.

제가 이런 것들을 보는 방식은 우리가 글로벌 기업이라는 것입니다. 중국은 우리에게 중요한 시장이다. 우리는 다른 것보다 더 많은 소비재 관련 상품을 중국에 판매하고 있으며, 이러한 지정학적 문제를 다루는 방법에 대해 실제로 균형 잡힌 접근 방식을 가질 수 있는 기회가 있습니다.

화웨이가 쫓겨나서 TSMC에 더 많은 공급이 가능해졌다고 생각하시나요?

TSMC가 엄청난 양의 공급을 테이블 위에 올려놓았다고 생각합니다. 내 말은, 지난 3~4년 동안 발생한 CapEx를 생각해보면 우리 모두에게 더 많은 칩이 필요하기 때문이라는 것입니다. 그리고 더 많은 칩이 필요할 때 투자가 이루어집니다. 결과적으로 칩은 더 비싸지고 이는 우리가 구축한 생태계의 일부입니다.

그 부분에 대해 이야기해보자. 그래서 GPU가 제한되어 있다고 말씀하셨는데요. Nvidia H100에는 이러한 칩에 접근할 수 있는 사실상 암시장이 있습니다. 당신은 칩을 가지고 있고, 새로운 칩을 가지고 나올 것입니다. 당신은 방금 Lamini의 칩에 대한 훈련을 완전히 발표했습니다. Nvidia 공급이 너무 제한되어 있기 때문에 이 시장을 혼란에 빠뜨릴 기회를 보셨나요?

Nilay, 저는 한 걸음 물러서서 AI 시장에서 무슨 일이 일어나고 있는지에 대해 이야기하겠습니다. 왜냐하면 지금 일어나고 있는 일이 믿기지 않기 때문입니다. 지난 10년 또는 20년 동안 우리가 보아온 기술 동향(인터넷, 휴대폰 혁명, PC가 상황을 어떻게 변화시켰는지 등)을 생각해 보면 AI는 10배, 100배, 그 이상입니다. 그것이 우리가 하는 모든 일에 어떤 영향을 미치는지에 관한 것입니다.

따라서 기업 생산성에 대해 이야기한다면, 개인 생산성이나 사회에 대해 이야기한다면, 생산성 관점에서 우리가 할 수 있는 일은 그만큼 큽니다. 그래서 GPU가 부족하다는 사실은 사람들이 기술이 얼마나 중요한지 인식하고 있기 때문에 놀라운 일이 아니라고 생각합니다. 이제 우리는 AI, 특히 생성적 AI가 시장에 출시되는 초기 단계에 있으므로 저는 이를 10년 주기로 봅니다. 다음 2년 동안 얼마나 많은 GPU를 얻을 수 있는지가 아닙니다. 4분기.

우리는 로드맵을 기대하고 있습니다. 나는 고성능 컴퓨팅과 관련하여 생성 AI를 고성능 컴퓨팅을 위한 킬러 앱이라고 부를 것이라고 생각합니다. 당신은 점점 더 많은 것이 필요합니다. 그리고 오늘날의 대규모 언어 모델이 훌륭하기는 하지만 훈련 성능과 추론 성능을 계속해서 높이면 여전히 더 좋아질 수 있습니다.

그래서 그것이 우리가 하는 일입니다. 우리는 가장 복잡한 칩을 만듭니다. 우리는 새로운 것이 나옵니다. 코드명이 필요하다면 MI300 이라고 부르는데 정말 환상적일 것입니다. 이는 대규모 언어 모델 훈련과 대규모 언어 모델 추론을 목표로 합니다. 기회가 보이나요? 예. 우리는 중요한 기회를 보고 있으며 이는 단지 한 곳에만 있는 것이 아닙니다. 클라우드 사용자가 유일한 사용자라는 생각은 사실이 아닙니다. 기업용 AI가 많이 등장할 것입니다. 많은 스타트업도 AI에 대한 엄청난 VC 지원을 받고 있습니다. 그래서 우리는 모든 공간에서 기회를 봅니다.

그럼 MI300?

MI300, 알겠습니다.

성능 측면에서 이것이 H100과 경쟁할 것인가, 아니면 H100을 초과할 것인가?

교육 워크로드에서 확실히 경쟁력이 있을 것이며 AI 시장에서는 칩과 관련하여 모든 경우에 적용되는 일률적인 솔루션은 없습니다. 훈련에 있어 예외적인 것들이 있을 것입니다. 추론에 있어서 예외적인 것들이 있는데, 그것은 그것을 어떻게 조합하느냐에 달려 있습니다.

MI300을 통해 우리는 추론, 특히 대규모 언어 모델 추론을 위한 뛰어난 제품을 구축했습니다. 따라서 미래를 내다볼 때 현재 수행되는 작업의 대부분은 회사에서 모델을 교육하고 결정하는 것입니다. 그러나 앞으로 우리는 추론이 더 큰 시장이 될 것이라고 생각하며 이는 우리가 MI300을 설계한 목적 중 일부에 잘 작용합니다.

월스트리트에서 생각하는 Nvidia의 모드를 살펴보면 CUDA, 독점 소프트웨어 스택, 개발자와의 장기적인 관계입니다. ROCm은 약간 다릅니다. 더 나은 제품이나 보다 개방적인 접근 방식을 통해 극복할 수 있는 해자라고 생각하시나요? 저걸 어떻게 공격할 건가요?

나는 시장이 그만큼 빠르게 움직일 때 해자를 믿지 않습니다. 해자를 생각해보면 사람들이 실제로 많은 변화를 원하지 않는 성숙한 시장입니다. 생성 AI를 보면 놀라운 속도로 움직이고 있습니다. 일반 개발 환경에서는 몇 달 만에 진행되는 작업이 몇 년이 걸렸을 수도 있습니다. 특히 소프트웨어에 있어서 우리의 접근 방식은 개방형 소프트웨어 접근 방식입니다.

실제로 이분법이 있습니다. 지난 5년, 7년, 8년 동안 소프트웨어를 개발한 사람들을 보면 하드웨어 전용 소프트웨어를 사용하는 경향이 있습니다. 편리했습니다. 세상에는 선택의 여지가 많지 않았기 때문에 사람들은 그렇게 했습니다. 앞으로 나아갈 때 실제로 모든 사람들이 선택을 원하기 때문에 하드웨어에 구애받지 않는 소프트웨어를 구축할 수 있는 능력을 찾고 있다는 것을 알게 됩니다. 솔직히 사람들은 선택을 원합니다. 사람들은 오래된 인프라를 사용하고 싶어합니다. 사람들은 한 인프라에서 다른 인프라로 이동할 수 있기를 원합니다. 그래서 그들은 더 높은 수준의 소프트웨어를 구축하고 있습니다. 예를 들어, 하드웨어에 구애받지 않는 기능인 PyTorch와 같은 것입니다.

따라서 앞으로 10년은 AI 내에서 어떻게 발전하느냐에 따라 지난 10년과 다를 것이라고 생각합니다. 그리고 저는 우리가 업계와 생태계 전반에 걸쳐 이를 보고 있다고 생각합니다. 개방형 접근 방식의 이점은 모든 아이디어를 갖고 있는 회사가 하나도 없다는 것입니다. 따라서 생태계를 더 많이 통합할수록 AI 학습을 가속화하려는 정말 똑똑한 개발자들을 모두 활용할 수 있습니다.

PyTorch는 대단한 일이죠? 이것이 모든 모델이 실제로 코딩되는 언어입니다. 저는 여러 클라우드 CEO들과 이야기를 나눕니다. 누군가가 특정 공급업체에 의존하는 것을 좋아하지 않는 것처럼 그들은 Nvidia에 대한 의존도를 좋아하지 않습니다. 클라우드 제공업체와 협력하여 "우리는 CUDA가 아닌 PyTorch에 맞게 칩을 최적화하겠습니다"라고 말하면 개발자는 PyTorch에서 실행하여 가장 최적화된 것을 선택할 수 있는 곳입니까?

그게 바로 그것입니다. 따라서 PyTorch가 무엇을 하려고 하는지, 그리고 실제로 하드웨어에 구애받지 않는 계층이 되려고 노력하고 있는지 생각해보면, 우리가 생각해낸 주요 이정표 중 하나가 PyTorch 2.0에 있다는 것입니다. AMD는 첫날부터 인증을 받았습니다. . 이것이 의미하는 바는 현재 PyTorch에서 CUDA를 실행하는 사람은 누구나 AMD에서 작업을 완료했기 때문에 즉시 AMD에서 실행된다는 것입니다. 그리고 솔직히 말해서 다른 하드웨어에서도 실행될 것입니다.

하지만 우리의 목표는 "최고의 칩이 승리할 수 있는 것"입니다. 그렇게 하는 방법은 소프트웨어를 훨씬 더 원활하게 만드는 것입니다. PyTorch이면서 Jax이기도 합니다. OpenAI가 Triton과 함께 제공하는 도구 중 일부이기도 합니다. 하드웨어에 구애받지 않고 사람들이 내놓고 있는 다양한 도구와 프레임워크가 많이 있습니다. "자신만의 만들기" 유형의 작업을 수행하는 사람들도 많이 있습니다. 그래서 저는 이것이 AI 소프트웨어의 미래의 물결이라고 생각합니다.

이러한 회사를 위해 맞춤형 칩을 만들고 있습니까 ?

우리는 맞춤형 칩을 제작할 수 있는 능력을 갖추고 있습니다. 그리고 제가 생각하는 방식은 맞춤형 칩을 구축할 시기는 실제로 앞으로 매우 많은 양의 애플리케이션을 얻을 때라는 것입니다. 그래서 저는 앞으로 몇 년 동안 맞춤형 칩이 나올 것이라고 믿습니다. 또 다른 흥미로운 점은 AI를 위해서는 다양한 유형의 엔진이 필요하다는 것입니다. 그래서 우리는 대형 언어 모델을 거래하는 데 필요한 대형 GPU에 대해 이야기하는 데 많은 시간을 소비합니다. 하지만 일부에서는 ASIC을 보게 될 것입니다. 좀 더 좁은 애플리케이션이라고 부르겠습니다. 또한 클라이언트 칩에서도 AI를 볼 수 있습니다. 따라서 저는 AI가 모든 시장 부문의 칩에 얼마나 광범위하게 통합될 것인지에 대해서도 매우 기대하고 있습니다.

내일은 Microsoft의 CTO인 Kevin Scott을 모십니다. 그래서 그를 추적할 수 있도록 이 질문을 드리겠습니다. 예를 들어 Microsoft가 Azure를 다양화하고 거기에 더 많은 AMD를 배치하고 고객에게 보이지 않기를 원했다면 지금 당장 가능합니까?

글쎄요, 우선 저는 Kevin Scott을 좋아해요. 그는 훌륭한 사람이고 우리는 클라우드와 Windows 환경 모두에서 Microsoft와 엄청난 파트너십을 맺고 있습니다. 내 생각엔 당신이 그에게 질문을 해야 할 것 같아요. 하지만 그에게 물어보거나 다른 클라우드 제조업체에 물어보면 그들은 절대적으로 가능하다고 말할 것입니다. 예, 노력이 필요합니다. 우리 각자가 해야 할 작업이 필요하지만 사람들이 실제로 더 높은 수준의 프레임워크에서 코드를 작성하고 있기 때문에 상상했던 것보다 작업량이 훨씬 적습니다. 그리고 우리는 이것이 AI 프로그래밍의 미래 물결이라고 믿습니다.

잠시 동안 이를 최종 사용자 애플리케이션에 연결하겠습니다. 우리는 비용 곡선을 크게 높이는 것들에 대해 이야기하고 있습니다. 많은 똑똑한 사람들이 최첨단 프로세스 노드에서 진정한 고급 GPU를 개발하기 위해 많은 작업을 하고 있습니다. 모든 것이 점점 더 비싸지고 있으며 소비자 응용 프로그램도 얼마나 비싼지 알 수 있습니다. 한 달에 25달러, Copilot이 포함된 Microsoft Office의 경우 시트당 30달러입니다. 소비자 가격을 낮추는 비용 곡선은 언제 내려오나요?

아주 좋은 질문입니다. 생산성 측면에서 Gen AI를 통해 얻을 수 있는 가치는 확실히 입증될 것이라고 믿습니다. 그렇습니다. 현재 이러한 인프라의 비용은 높지만, 다른 측면에서 얻을 수 있는 생산성 또한 매우 흥미롭습니다. 우리는 AMD 내에서 내부적으로 AI를 배포하고 있는데, 칩을 더 빨리 출시할 수 있다면 엄청난 생산성을 발휘할 수 있기 때문에 이는 매우 높은 우선순위입니다.

당신은 그것을 신뢰합니까? AI가 수행하는 작업을 사람들이 확인하게 합니까, 아니면 그것을 신뢰합니까?

확신하는. 보세요, 우리는 모두 실험을 하고 있는 거죠, 그렇죠? 우리는 배포할 수 있는 도구와 인프라를 구축하는 아주 초기 단계에 있습니다. 하지만 사실은 우리가 칩을 설계하든, 칩을 테스트하든, 칩을 검증하든 관계없이 시간을 절약해줍니다. 시간은 세상에서 돈입니다.

하지만 언제 곡선의 반대편에 도달하는지에 대한 질문으로 돌아가 보겠습니다. 그렇기 때문에 클라우드뿐만 아니라 AI에 대해 폭넓게 생각하는 것이 중요하다고 생각합니다. 따라서 지금부터 몇 년 후 생태계가 어떤 모습일지 생각해 보면 가장 큰 기본 모델을 교육하는 클라우드 인프라가 있고 동시에 여러 AI가 있는 곳을 상상할 수 있습니다. 가장자리. 그리고 그것이 PC에 있든 휴대폰에 있든 로컬 AI를 수행할 수 있게 될 것입니다. 그리고 그렇게 하면 더 저렴하고 빠르며 실제로 더 비공개적입니다. 이것이 바로 AI가 모든 곳에 존재한다는 아이디어이며 AI가 배포 방식을 실제로 향상시킬 수 있는 방법입니다.

그래서 오픈소스에 대해 알게 되었고, 솔직히 우리가 이것을 어떻게 규제할 것인지에 대한 아이디어를 얻었습니다. 그래서 백악관 회의가 있는데 모두가 참여하는군요. 모두가 서로를 매우 자랑스러워합니다. 실제로 AI 규제를 어떻게 시행할 것인지 생각해 보세요. 괜찮습니다. AWS나 Azure에 특정 작업 스트림을 실행하지 않도록 지시할 수도 있습니다. “이런 짓은 하지 마세요.” 그리고 그것은 괜찮은 것 같습니다. 랩톱에서 Linux의 오픈 소스 모델을 실행하는 사람의 칩에서 특정 일이 발생하지 않도록 AMD에 말할 수 있습니까?

나는 그것이 우리 모두가 매우 심각하게 받아들이는 문제라고 생각합니다. 이 기술은 생산성과 발견의 관점에서 볼 때 많은 이점을 갖고 있지만 AI에는 안전성도 있습니다. 그리고 저는 대기업으로서 우리에게는 책임이 있다고 생각합니다. 데이터 개인 정보 보호와 관련된 두 가지 사항과 이러한 모델이 개발될 때 지나치게 편견 없이 최선을 다해 개발되도록 전반적으로 보장하는 것에 대해 생각한다면. 우리는 실수를 할 것입니다. 여기서는 업계 전체가 완벽하지 않을 것입니다. 하지만 저는 그 중요성에 대해 명확성이 있으며 우리가 함께 이를 수행해야 하며 이를 실현하려면 공공/민간 파트너십이 필요하다고 생각합니다.

나는 누구의 이름도 기억하지 못하므로 나는 끔찍한 정치인이 될 것입니다. 하지만 내가 규제자라고 가정해 봅시다. 나는 그것을 할 것이다. 그리고 나는 말합니다. “얘야, 나는 이 아이들이 어떤 모델을 사용하여 화학 무기를 개발하는 것을 정말로 원하지 않는다. 그리고 그 집행을 어디에 적용해야 하는지 알아내야 합니다.” 저는 Azure에게 "그러지 마세요"라고 확실히 말할 수 있습니다. 하지만 Linux를 실행하는 Dell 노트북에 AMD 칩을 장착한 어린이에게는 칩이 이를 수행하지 않도록 하라는 것 외에는 실행 메커니즘이 없습니다. 그 규정을 받아들이시겠습니까?

나는 묘책이 없다고 생각합니다. “칩이 그렇게 하지 않게 만들 수 있다”는 것이 아닙니다. "칩과 모델을 결합하고 몇 가지 보호 장치를 마련할 수 있습니다." 그리고 우리는 그러한 일이 일어나도록 돕기 위해 기꺼이 그 테이블에 참석할 것입니다.

칩이 제한되는 그런 종류의 규제를 받아들이시겠습니까?

예, 저는 우리가 마련해야 할 안전 장치가 무엇인지 살펴볼 기회를 받아들이겠습니다.

제 생각에는 이것이 가장 복잡한 문제 중 하나가 될 것 같습니다... 우리 칩이 우리가 할 수 있는 일이 제한될 것이라고는 생각하지 않으며, 이것이 우리가 묻고 답해야 하는 질문인 것처럼 느껴집니다.

다시 말씀드리지만, 칩 자체는 아닙니다. 일반적으로 칩은 광범위한 기능을 가지고 있기 때문입니다. 칩과 소프트웨어, 모델이 모두 포함됩니다. 특히 모델 측면에서 보호 측면에서 수행하는 작업입니다.

우리는 질문을 받기 위해 줄을 서기 시작할 수 있었습니다. 당신을 위한 몇 가지가 더 있습니다. 당신은 PS5에 있습니다. 당신은 Xbox를 사용하고 있습니다. 클라우드 게이밍이 만물의 미래라고 말하는 세계관이 있습니다. 귀하도 해당 데이터 센터에 있기 때문에 이는 귀하에게 좋을 수 있습니다. 하지만 그러한 변화가 진행되고 있는 것을 보시나요? 그게 진짜인가요, 아니면 우리는 아직도 콘솔 세대를 만들고 있나요?

정말 흥미롭습니다. 게임은 어디에나 있습니다. 게임은 모든 폼 팩터의 모든 곳에 있습니다. '이것이 콘솔 게임의 종말인가?'에 대한 긴 대화가 있었습니다. 그리고 나는 그것을 볼 수 없습니다. PC 게임이 강하고, 콘솔 게임이 강하고, 클라우드 게임에도 힘이 있다고 봅니다. 그리고 그들은 모두 비슷한 유형의 기술이 필요하지만 분명히 다른 방식으로 사용합니다.

청중 Q&A

Nilay Patel: 자기 소개를 부탁드립니다.

앨런 리: 안녕, 리사. 앨런 리(Analog Devices). Xilinx 인수 후 1년 반이 지난 지금 AI 분야에서 적응형 컴퓨팅이 어떻게 진행될 것으로 보시나요?

Lisa Su: 우선 만나서 반가워요, Alan. 우선 Xilinx 인수는 우리가 약 18개월 전에 완료한 인수였습니다. 환상적인 인수였습니다. 적응형 컴퓨팅 IP로 고성능 IP를 많이 가져왔습니다. 특히 데이터 흐름 아키텍처에 최적화된 AI 엔진에서 이것이 우리가 Xilinx의 일부로 가져올 수 있었던 것 중 하나라는 것을 알았습니다. 이것이 실제로 현재 PC에 들어가는 IP입니다.

그래서 우리는 거기에서 상당한 IP 사용량을 볼 수 있습니다. 그리고 함께 앞으로 나아가면서 저는 올바른 컴퓨터는 하나도 없다는 믿음을 갖게 되었습니다. 실제로 올바른 애플리케이션을 위해서는 올바른 컴퓨팅이 필요합니다. 따라서 CPU, GPU, FPGA, 적응형 SoC 등 모든 것이 필요합니다. 이것이 바로 우리가 하나로 묶고 있는 생태계입니다.

NP: 여기 키가 큰 신사가 있습니다.

Casey Newton: 안녕하세요. Platformer 의 Casey Newton입니다 . 나는 규제에 관한 Nilay의 질문으로 돌아가고 싶었습니다. 언젠가는 슬프지만 누군가가 해를 끼치려는 명시적인 목적, 즉 해당 목적을 위해 대규모 언어 모델을 훈련시키기 위해 여러 개의 GPU를 획득하려고 시도할 수도 있습니다. 따라서 정부가 대량의 GPU에 액세스할 수 있는 사람과 그들이 수행할 수 있는 훈련 규모에 대해 어떤 종류의 규정을 적용해야 한다고 생각하십니까?

LS: 좋은 질문이네요. 특히 규제 방법에 관해서는 우리가 이에 대한 답을 모른다고 생각합니다. 우리의 목표는 GPU가 수출 통제 대상이기 때문에 모든 수출 통제 내에서 해당 규정을 따르는 것입니다. 현재 가장 크고 다음 수준의 GPU가 있습니다. 제가 말했듯이 핵심은 실제로 발생하는 칩과 모델 개발의 조합이라고 생각합니다. 그리고 우리는 그 테이블에서 활발히 활동하며 그러한 일을 수행하는 방법에 대해 이야기하고 있습니다. 우리는 최고 성능의 GPU를 철저히 보호하고 싶다고 생각합니다. 그러나 또한 많은 사람들이 접근하기를 원하는 중요한 시장이기도 합니다.

Daniel Vestergaard: 안녕하세요. 저는 DR [Danmarks Radio]의 Daniel입니다. 앞서 말씀드린 내용으로 돌아가 보겠습니다. 여기 계신 모든 분들이 내부 작업 흐름에 AI를 구현하는 것에 대해 생각하고 계시기 때문입니다. 그리고 귀하는 칩과 심층적인 기계 학습 지식에 접근할 수 있기 때문에 귀하의 생각을 듣는 것이 매우 흥미롭습니다. 칩 제조 과정에서 내부적으로 어떤 용도로 AI를 사용하고 있는지 좀 구체적으로 말씀해 주실 수 있나요? 이것이 우리를 올바른 방향으로 인도할 수 있기 때문입니다.

LS: 질문해주셔서 감사합니다. 모든 기업이 AI를 구현하는 방법을 모색하고 있다고 생각합니다. 예를 들어 우리에게는 영업, 마케팅, 데이터 분석, 리드 생성 등 엔지니어링 기능과 비엔지니어링 기능이 있습니다. AI가 매우 유용할 수 있는 곳은 모두 여기입니다. 엔지니어링 측면에서는 어떻게 하면 칩을 더 빨리 만들 수 있는지를 살펴봅니다. 그래서 그들은 우리의 설계와 테스트 생성, 제조 진단에 도움을 줍니다.

Nilay의 질문으로 돌아가서, 사람이 개입하지 않고 칩을 만들 수 있다고 믿을 수 있습니까? 아니요, 물론 그렇지 않습니다. 우리는 많은 엔지니어를 보유하고 있습니다. 특히 부조종사 기능은 실제로 채택하기가 상당히 쉽다고 생각합니다. 순수 생성 AI, 우리는 그것이 작동하는지 확인하고 확인해야 합니다. 그러나 그것은 학습 과정입니다. 그리고 핵심은 많은 실험이 있고 빠른 학습 주기가 중요하다는 것입니다. 따라서 실제로 우리는 AI를 회사 개발 프로세스에 가능한 한 빨리 도입하는 방법을 찾는 데 시간을 할애하는 전담 팀을 보유하고 있습니다.

Jay Peters: 안녕하세요. The Verge 의 Jay Peters입니다 . Apple은 자사 장치, 특히 M 시리즈 칩이 AAA 게임에 정말 적합한 방식에 대해 훨씬 더 큰 노력을 기울이고 있는 것 같습니다. 그런 면에서 애플이 걱정되시나요?

NP: iPhone 15 Pro가 세계 최고의 게임 콘솔이라고 말하더군요 . 이것이 바로 "프로"인 이유입니다. 매우 혼란스러운 상황입니다.

LS: 그건 모르겠어요. 앞서 말했듯이 게임은 엔터테인먼트와 우리가 하는 일에 대해 생각할 때 매우 중요한 응용 프로그램입니다. 나는 항상 모든 경쟁에 대해 생각합니다. 하지만 내 관점에서는 우리가 어떻게 얻을 수 있는가가 문제입니다... 그것은 단지 하드웨어만이 아닙니다. 그것은 실제로 우리가 게임 생태계를 얻는 방법입니다. 사람들은 어디에서나 게임을 가지고 친구들과 다양한 플랫폼에서 플레이할 수 있기를 원합니다. 이것이 오늘날 게임 생태계에 대한 옵션입니다. 우리는 최고 성능의 PC와 콘솔 칩에 대한 한계를 계속해서 밀어붙일 것입니다. 그리고 내 생각에 우리는 꽤 괜찮을 것 같아요.

NP: 하나 더 드릴 말씀이 있습니다. Decoder를 들어보시면 제가 사람들에게 결정에 관해 질문하는 것을 좋아한다는 것을 아실 것입니다. 칩 CEO는 기본적으로 내가 생각할 수 있는 누구보다도 장기적인 결정을 내려야 합니다. 지금 하고 있는 가장 장기적인 베팅은 무엇입니까?

LS: 우리는 확실히 5년 이상의 주기를 고려하여 디자인하고 있습니다. 오늘은 MI300에 관해 이야기를 나눴습니다. 우리는 4~5년 전에 이러한 아키텍처 결정 중 일부를 내렸습니다. 그리고 사고 과정은 "이봐, 세상은 어디로 가고 있지?" 어떤 종류의 컴퓨팅이 필요합니까?” 우리의 목표와 우리가 하려고 했던 일에 대해 매우 야심적입니다. 그래서 우리는 향후 5년 동안 무엇을 구축할 것인지에 대해 매우 기대하고 있습니다.

NP: 지금 당장 무슨 내기를 하고 있나요?

LS: 우리는 AI의 차세대 기술이 무엇인지에 베팅하고 있습니다.

NP: 그렇군요. 고마워요, 리사.

LS: 그렇군요.

NP: 최선을 다했어요.

 

출처 : https://www.theverge.com/23894647/amd-ceo-lisa-su-ai-chips-nvidia-supply-chain-interview-decoder

 

#AMD #AI #LISASU