dgx 시스템 2

초거대 AI는 어디서 연산할까? NVIDIA AI 슈퍼컴퓨터 이야기

ChatGPT나 GPT-4 같은 초거대 AI 모델은 일반 서버로는 돌릴 수 없습니다. 이들이 작동하려면 고성능 GPU와 수천 개의 병렬 시스템이 필요한데요, 바로 그 핵심이 NVIDIA의 DGX 슈퍼컴퓨터입니다. 이 글에서는 DGX 시스템과 H100 GPU, NVLink 기술까지 AI 인프라의 심장을 자세히 살펴보겠습니다. 초거대 AI의 뇌는 CPU가 아니라, 수천 개의 GPU입니다.NVIDIA가 만든 AI 슈퍼컴퓨터는 인공지능 시대를 가능케 한 연산 엔진입니다.초거대 AI는 왜 특별한 연산이 필요할까?GPT-4, Gemini, Claude 같은 초거대 언어모델(LLM)은 수십억 개의 파라미터를 학습하고 추론하기 위해 엄청난 연산 능력을 필요로 합니다. 일반적인 CPU 서버로는 이 연산을 도저히 감당할 ..

엔비디아 성공 스토리: 게이밍 GPU의 혁신에서 AI 슈퍼컴퓨터의 제왕까지

엔비디아의 관련된 모든것을 블로그 시리즈로 작성 해보려고합니다.그 시작을 알리는 첫번째 글로 " 엔비디아의 기술 진화와 성장 전략 분석" 을 가장 먼저 들고 왔습니다.이제는 모든 사람이 인정하는 GPU 시장을 선도하며 AI 산업의 인프라를 지배하는 기업, 바로 엔비디아 입니다.이 회사가 어떻게 지금의 성장을 이루고 또 어떤 발전을 도모하고 있는지 이번글과 이어지는 시리즈 글로 만나보겠습니다게이밍 GPU로 시작된 엔비디아의 성공엔비디아(NVIDIA)는 1993년 미국 캘리포니아에서 젠슨 황(Jensen Huang)을 비롯한 공동 창업자들에 의해 설립되었습니다. 당시에는 고사양 3D 그래픽 게임을 구동하기 위한 전용 그래픽카드의 필요성이 대두되던 시기였고, 엔비디아는 이 기회를 정확히 포착했습니다.1999년..