_➧대출디비구매문의}*텔레howDB > 자유게시판

_➧대출디비구매문의}*텔레howDB 추론 특화 '아이언우드' 공개"LLM 효율적 구동에 최적화"가성비 AI모델 '플래시'도 내놔구글의 7세대 AI반도체 아이언우드. 구글구글이 새로운 인공지능(AI) 모델과 AI반도체를 공개했다. 고성능·저비용 모델로 경쟁자들을 따돌리고, 자체 반도체를 강화해 엔비디아 의존도를 줄이려는 모습이다.구글의 클라우드 사업 부문인 구글 클라우드는 9일(현지시간) 미국 라스베이거스에서 연례 행사인 '넥스트 2025'를 개최하고, 지난달 공개한 최신 대규모언어모델(LLM) 제미나이 2.5의 보급형 모델인 제미나이 2.5 플래시를 공개했다.구글에 따르면 2.5 플래시는 질문의 복잡성에 따라 처리 시간을 자동으로 조정해 간단한 요청에 대해서는 더 신속한 답변을 내놓는다. 이로 인해 낮은 비용으로 빠른 서비스가 가능하다. 구글은 2.5 플래시가 "고객 서비스나 실시간 정보 처리와 같은 대량 시나리오에 적합한 균형 잡힌 모델"이며 "대규모 효율성이 핵심인 가상 비서에 이상적"이라고 밝혔다.구글은 이날 차세대 AI반도체(가속기)인 아이언우드도 공개했다. 7세대 TPU(텐서프로세서유닛)인 아이언우드는 추론 기능에 초점을 맞춰 개발한 반도체로, 대규모 컴퓨팅 자원이 필요한 LLM을 실제로 많은 고객을 대상으로 서비스하는 것에 집중해 만들었다. 최근 LLM이 도입하고 있는 혼합 전문가(MoE) 기능, 고급 사고(Reasoning) 능력을 효율적으로 작동시키는 것이 가능하다.구글에 따르면 아이언우드는 2023년 나온 전 세대 반도체 TPUv5p보다 10배 이상 뛰어난 성능을 낸다. 아이언우드에는 198GB 대역폭의 고대역폭메모리(HBM)가 탑재돼 더 큰 모델과 데이터 세트를 처리할 수 있어 잦은 데이터 전송의 필요성을 줄이고 성능을 향상시킬 수 있다는 설명이다. 삼성전자는 TPU 공동 개발사인 미국 브로드컴을 통해서 HBM을 구글에 납품하고 있는 것으로 알려져 있다.이같이 아이언우드를 기반으로 하는 슈퍼컴퓨터를 이용하면 제미나이 2.5 플래시는 경쟁력 있는 추론 비용으로 서비스를 할 수 있을 것으로 예상된다. AI가속기 시장의 80% 이상을 점유하고 있는 엔비디아도 점차 학습에서 추론으로 무게중심을 옮기고 있는 상황에서 구글은 추론 특화 반도체로 엔비디아에 대한 의존도를 줄이려고 하는 모습이다.구글은 이날 에이전트 간 통신을 위한 '에이전트2에이전트'라는 프로토콜도 공개했다. 최근 사용자가 늘고 있는 오픈소스 프로토콜인 MCP도 지원한다고 발표했다. 토마스 쿠리안 구글