1.4페타바이트의 메모리와 거의 10,000개의 Nvidia AI GPU를 갖춘 eBay에 등재된 6천만 달러 규모의 AI 랙 클러스터

누가 거대 AI 회사들이 모든 장비를 갖추어야 한다고 말했습니까? 어제 6천만 달러의 멋진 돈이 있었다면 수천 개의 Nvidia A100 GPU와 AMD EPYC CPU가 300개 랙으로 분할된 AI 슈퍼컴퓨터를 직접 구입했을 수도 있습니다. 그리고 싸게 가면 무료로 배송받을 수도 있어요.

Amazon, Lucasfilm, Microsoft, Meta, 심지어 미국 법무부와 같은 회사에 IT 부품을 판매하는 회사인 Core 4 Solutions는 300랙 클러스터 나열 이번 주 페이지에서 (를 통해 톰의 하드웨어).

해당 목록에는 각 랙에 4개의 컴퓨팅 노드가 포함되어 있으며 8개의 Nvidia A100 40GB GPU, 8개의 Nvidia Connect 네트워크 인터페이스 카드 및 2개의 AMD EPYC 64코어 CPU가 포함되어 있습니다. 또한 각 랙에는 1TB의 DDR4 메모리와 3개의 1U 관리 노드, 2개의 EPYC CPU가 함께 제공됩니다. Tom's Hardware에서 지적했듯이 이는 9,600개의 GPU와 4200개의 CPU에 해당합니다.

Nvidia A100 GPU는 현재 단종된 Ampere 아키텍처를 기반으로 구축된 엔터프라이즈급 GPU로, AI 사용 사례 및 데이터 분석을 위해 특별히 설계되었습니다. GPU당 6912개의 CUDA 코어를 얻게 됩니다. RTX 5070 있음) 그러나 게임에 사용할 수 있는 것은 아닙니다.

5,970만 달러 규모의 목록이 오늘인 10월 28일에 종료되었지만 300개의 랙이 실제로 판매되었는지는 확실하지 않습니다. 미국에 거주하는 경우 FedEx Ground 또는 FedEx Home Delivery 옵션을 선택하면 랙을 무료 배송으로 받을 수도 있습니다. 정말 좋은 거래입니다.

(이미지 출처: eBay의 Core 4 Solutions)

Core 4 Solutions는 다음에서 일부 서버를 판매하고 있습니다. 웹사이트, 그러나 이 중 가장 비싼 것은 $87,000에 불과합니다.. eBay의 300개 랙은 거의 700배 더 비쌉니다.

놀랍게도 5,970만 달러 규모의 랙 클러스터는 무려 1.4페타바이트에 달하는 메모리를 보유하고 있으며, 이는 비교적 인상적인 게임 장비 90,000개 미만에 충분한 메모리입니다(가정). 16GB면 충분해요).

따라서 RAM의 가격이 왜 그렇게 비싼지 궁금하다면 그 모든 달콤하고 달콤한 메모리를 빨아들이는 AI 서버(더 나아가 AI 회사)에게 감사를 표할 수 있습니다. AI 회사가 모든 장비에 얼마나 많은 돈을 지출하는지 실제로 알 수 있습니다.그리고 서로.

---

원문 출처:[공식 원문 출처 바로가기] (PC Gamer)

본 게시글은 임의 요약 없이 게임사/발행처(PC Gamer)의 공식 발표 원문(팩트) 그대로 제공됩니다.