젠슨 황 엔비디아 최고경영자(CEO)가 > 자유게시판

콜백문자서비스 젠슨 황 엔비디아 최고경영자(CEO)가 지난 5월 21일 대만 타이페이에서 열린 ‘컴퓨텍스 2025’ 에서 최신 그래픽처리장치(GPU)가 들어간 엔비디아의 초소형 슈퍼컴퓨터 ‘DGX 스파크’를 소개하고 있다. AFP연합뉴스지난 11월 7일 대전 한국과학기술원(카이스트) 전산학과의 한 연구실. 석·박사 과정 연구원 서너명이 각자 컴퓨터 모니터를 응시하고 있었는데, 연구실 랩장이자 박사과정 A씨(30)는 이들이 차세대 인공지능(AI) 모델을 연구 중이라고 소개했다.전산학과 건물 1층 서버실에는 이 연구실이 연구 펀딩을 받아 마련한 GPU 40여장이 설치돼 있다. 엔비디아는 ‘H100’, ‘A100’ 같은, 1장에 수천만원짜리 GPU를 AI 훈련과 추론을 위한 용도로 내놓았지만, 정작 이 연구원들이 쓰는 GPU는 200만원대 게임용 GPU인 ‘RTX-4090’이다.게임용 GPU로는 한계···연구 포기하기도연구실에서는 40여장의 GPU를 과제별로 나눠 사용한다. 한 과제당 4장, 또는 8장의 GPU를 사용하는데, 논문 발표 시점이 다가오면 저마다 GPU를 돌리다 보니 40여장이 부족한 실정이다. A씨가 말했다. “AI 분야에서 탑3 학회가 NeurIPS(신경정보처리시스템학회), ICML(국제머신러닝학회), ICLR(국제표현학습학회)이에요. 다들 이 3개 학회 일정에 맞춰 논문을 쓰다 보니 남는 GPU가 없는거죠. 당장 GPU가 급한 연구원들은 학회에 논문을 제출하지 않는 연구원을 찾아가 GPU를 좀 양보해달라고 부탁하기도 하죠.”사실 이들이 쓰는 RTX-4090 GPU는 AI 연구를 하는 데 한계가 있다. GPU에는 그래픽용 D램(GDDR D램)이나 고대역폭메모리(HBM)가 결합돼 있는데, 연구원들에게는 어떤 메모리냐보다 메모리 용량이 얼마나 되느냐가 중요하다. 학부생으로 이 연구실에서 인턴으로 일하는 B씨(25)는 이렇게 설명했다. “메모리는 일종의 작업대예요. AI 모델을 그 작업대에 올려놓고 연구를 하는 거죠. 그런데 요즘 AI 모델은 아무리 연구용으로 만든 것이라고 해도 크기가 상당하거든요. 메모리 용량이 작으면 ‘메모리가 초과됐습니다’ 하고 그냥 꺼져버려요.”이 때문에 연구실에서는 미국의 뉴욕대나 스위스 로잔젠슨 황 엔비디아 최고경영자(CEO)가 지난 5월 21일 대만 타이페이에서 열린 ‘컴퓨텍스 2025’ 에서 최신 그래픽처리장치(GPU)가 들어간 엔비디아의 초소형 슈퍼컴퓨터 ‘DGX 스파크’를 소개하고 있다. AFP연합뉴스지난 11월 7일 대전 한국과학기술원(카이스트) 전산학과의 한 연구실. 석·박사 과정 연구원 서너명이 각자 컴퓨터 모니터를 응시하고 있었는데, 연구실 랩장이자 박사과정 A씨(30)는 이들이 차세대 인공지능(AI) 모델을 연구 중이라고 소개했다.전산학과 건물 1층 서버실에는 이 연구실이 연구 펀딩을 받아 마련한 GPU 40여장이 설치돼 있다. 엔비디아는 ‘H100’, ‘A100’ 같은, 1장에 수천만원짜리 GPU를 AI 훈련과 추론을 위한 용도로 내놓았지만, 정작 이 연구원들이 쓰는 GPU는 200만원대 게임용 GPU인 ‘RTX-4090’이다.게임용 GPU로는 한계···연구 포기하기도연구실에서는 40여장의 GPU를 과제별로 나눠 사용한다. 한 과제당 4장, 또는 8장의 GPU를 사용하는데, 논문 발표 시점이 다가오면 저마다 GPU를 돌리다 보니 40여장이 부족한 실정이다. A씨가 말했다. “AI 분야에서 탑3 학회가 NeurIPS(신경정보처리시스템학회), ICML(국제머신러닝학회), ICLR(국제표현학습학회)이에요. 다들 이 3개 학회 일정에 맞춰 논문을 쓰다 보니 남는 GPU가 없는거죠. 당장 GPU가 급한 연구원들은 학회에 논문을 제출하지 않는 연구원을 찾아가 GPU를 좀 양보해달라고 부탁하기도 하죠.”사실 이들이 쓰는 RTX-4090 GPU는 AI 연구를 하는 데 한계가 있다. GPU에는 그래픽용 D램(GDDR D램)이나 고대역폭메모리(HBM)가 결합돼 있는데, 연구원들에게는 어떤 메모리냐보다 메모리 용량이 얼마나 되느냐가 중요하다. 학부생으로 이 연구실에서 인턴으로 일하는 B씨(25)는 이렇게 설명했다. “메모리는 일종의 작업대예요. AI 모델을 그 작업대에 올려놓고 연구를 하는 거죠. 그런데 요즘 AI 모델은 아무리 연구용으로 만든 것이라고 해도 크기가 상당하거든요. 메모리 용량이 작으면 ‘메모리가 초과됐습니다’ 하고 그냥 꺼져버려요.”이 때문에 연구실에서는 미국의 뉴욕대나 스위스 로잔공대 연구팀 등과 협업하는 경우가 많다. 이들 대학은 많은 수의 H100 GPU를 자체 관리하거나, 데이터센터가 보유한 H10 콜백문자서비스