AI 작업들 다 GPU기반으로 돌아가는데 왜 인텔 AMD가 주목받냐는 식의 의문을 가진 나붕이가 보여서

그 이유에 대해 내가 아는 대로 간단히 써봄

내 필드는 HW 설계나 서버 구축 쪽이 아니니까 틀릴 수도 있음

하지만 문외한이라도 생각해보면 간단한 일인데 그야 GPU 하나만 딸랑 있어서는 AI 개발도 구동도 못 하잖아

데탑 메인보드에 CPU 슬롯 비워두고 PCIE에 4090 처박으면 게임 잘 굴러감? 아니지? 컴퓨터 켜지지도 않는다고

서버도 똑같애 랙에다가 H100 몇백 개씩 처박아도 CPU 없으면 아예 구동이 안 돼

그럼 '어차피 연산은 GPU가 다 하는데 비싼 GPU 수백 개에 CPU 좆싸구려 하나만 달면 그만 아니냐?' 하는 생각이 들 수도 있는데,

데탑 CPU 슬롯에 셀러론 박고 PCIE에 4090 처박으면 게임 잘 굴러감? 아니지? 병목 터져서 병신되잖아

서버도 똑같애 어떤 모델로 어떤 작업을 하냐에 따라 다르긴 하지만 결국 CPU 구리면 병목 터져서 존나 느려질 때 많아

그래서 존나짱센 CPU까지 박잖아? 그럼 심지어 작업은 다 처리하는데 그걸 GPU로 보낼 PCIe 대역폭이 부족해서 병목이 터지는 케이스까지 있다고 함

PCIE 4.0 너무 느리다고 5.0 나왔는데 그것도 좁다고 6.0까지 나오는 중임

그래서 요즘 GPU 기반 AI 연산장치 개발 기조는 아예 CPU+GPU+HBM을 싹 다 원칩으로 패키징해버려서 병목을 없애버리는 쪽으로 간다더라고

이런 식으로

근데 저렇게 원칩을 만들려면 HBM이야 삼성 하닉 마이크론에서 사오더라도 CPU GPU 둘 다 만들 줄 알아야 할 거 아냐

그래서 GPU 성능 좆구린 AMD랑 GPU같지도 않은 걸 만드는 인텔 이야기가 자꾸 나오는 것임

그럼 엔비디아는 cpu 설계능력 없다고 손가락만 처빨고 앉았느냐? 하면 그건 아님

엔비디아 경영진도 정박아새끼가 아닌 만큼 Grace라는 CPU 아키텍처를 개발함

이걸 H100에 박힌 Hopper GPU랑 같은 보드에 박아서 대역폭 이빠이 늘린 GH100이라는 물건도 만들었음

하지만 문제는 이게 x86이 아니라 arm이라는 점임

IT 기술에 오래 관심가져온 사람들은 2010년대 중반 즈음에 전성비 지리는 arm이 10년 내로 서버용 cpu 시장 다 처먹고 x86이 몰락할 거라는 소리 많이 들었을 거임

근데 10여년이 지난 지금 arm cpu의 서버시장 점유율이 어떻게 되었느냐?

아직도 8퍼따리임

저것도 절반 이상이 최근 알리바바 바이두같은 짱개기업들이 탈미국한다고 자체칩 개발해다 박은 비중임

나머지도 자체칩 집착증 걸린 아마존이 자체칩 자사 서버에 박은 비중이고

그래프로만 보면 성장률이 빨라보일 수 있어도 특정 업체가 특수한 폐쇄적 환경 내에서만 쓰는 물건이라 결국 상단이 막혀있지 싶음

어찌보면 당연한게 쿠다가 생태계 독점이니 그간 쌓인 라이브러리때문에 못 벗어나니 하는데 그거 꼴랑 10년치잖아

그럼 50년치가 쌓여있는 x86은 대체 뭐임?

심지어 지금 AI 업계 선두를 달리고 있는 OpenAI는 쿠다 말고 자체 API 쓰고 있음

구글은 아예 자체개발 TPU를 써서 개발하는 중이고

이런 정황을 쭉 둘러보다 보니까 어? 이거 결국 길게 보면 x86 개발력 가진 쪽이 이기는 싸움 아닌가?

하는 사람들이 계속 생길 수밖에 없는 것임

그래서 둘 중 그나마 삽질 덜 하는 AMD per가 미쳐 날뛰는 걸테고

물론 위에 GH100처럼 엔비디아 경영진도 병신새끼가 아니니까 대책 마련하고 GPU 개발력으로 찍어처누를 수도 있는 거고

아예 TPU나 뉴로모픽같은 전용 ASIC이 나와서 개씹쩌는 전력효율로 암드 인텔 엔비디아 다 씹어처먹을 수도 있으니까 미래는 진짜 모르는 거임

하지만 적어도 좆텔 AMD에 거는 인간들도 나름의 논리와 이유가 있어서 거는 거다 이것임