18+

전체 게시글

빌런 TOP 20
일간 l 주간 l 월간
구매후기 이벤트
엔비디아가 엔비디아 베라 루빈(Vera Rubin) NVL72와 그록 3 LPX(Groq 3 LPX)를 기반으로 AI 팩토리의 전력 효율을 높이고, 더 많은 토큰을 처리할 수 있도록 지원한다고 밝혔다. AI 팩토리에서는 전력이 핵심 제약 요소다. 모든 와트가 중요한 만큼, AI 인프라에서 동일한 메가와트의 전력으로 얼마나 더 많은 토큰을 처리할 수 있는지가 중요하다. 엔비디아는 베라 루빈 NVL72를 기반으로 시스템, 네트워킹, 소프트웨어, 전력 관리를 하나로 통합한 풀스택 AI 팩토리를 통해 이러한 과제에 대응한다. 엔비디아 DSX MaxLPS는 AI 팩토리의 전력 수요 변화에 따라 랙 간 전력을 동적으로 재분배한다. 이를 통해 다음과 같은 상당한 효과를 제공할 수 있다. - 동일한 시설 전력 용량 내에서 GPU 용량 최대 40% 확대 - 신규 전력선 증설 없이 토큰 처리량 최대 35% 향상 각 랙 내부에서는 지능형 전력 평활화(Intelligent Power Smoothing) 소프트웨어와 확장된 에너지 버퍼링 기능이 순간적인 전력 급증을 흡수해, 시스템이 지속적인 전력 수요에 보다 가깝게 운영될 수 있도록 한다. 이를 통해 기존에 여유 용량으로 남아 있던 전력을 실제 컴퓨팅 자원으로 활용할 수 있다. 에이전틱 AI에서는 에이전트가 여러 단계의 추론과 도구 호출을 연속으로 수행하기 때문에 지연 시간과 컨텍스트 길이에 따른 부담이 빠르게 커질 수 있다. 엔비디아 그록 3 LPX는 베라 루빈에 결정론적 초저지연 추론 기능을 추가하고 DSX MaxLPS를 보완한다. 이 통합 플랫폼은 긴 컨텍스트 환경에서 2조 개 이상의 파라미터를 갖춘 모델을 기준으로 GB200 NVL72 대비 메가와트당 토큰 처리량을 최대 35배까지 높일 수 있다. 성능 수치에서도 이러한 효과가 확인됐다. 10만 토큰 컨텍스트 규모의 큐웬(Qwen) 3.8 27B 워크로드에서 그록 3 LPX는 사용자당 초당 2,529개의 출력 토큰을 기록했다. 이러한 성능 여유를 통해 워크로드가 확장되더라도 에이전트는 동일한 응답 처리 범위 내에서 더 많은 추론 단계와 도구 호출을 수행할 수 있다.
2026.09.18
1
12
기사에 나온 내용을 기반으로 다시 정리를 해 보았다. 만약 그 메모리가 좋았다면 왜? 삼전닉스가 만들지 않을까? 그리고 공정이 너무 예전이라… 설마 퀄컴처럼 HBC란 말일까? 대륙의 기술은 항상 확인을 해야 한다.. 거짓말의 중심인 나라이기에… 구분 냉각 아키텍처 칩셋 열 밀도 메모리 내열 한계 랙당 총 소비전력 전력 대비 연산 효율 메모리 통신 전력 열 관리 실패 리스크 엔비디아 GB200 NVL72 (HBM3e 방식) 수랭식 (Liquid Cooling) 전면 도입 낮음 (평면 분산 배치로 열 방출 유리) 약 105℃ ~ 125℃ (HBM3e 표준 사양) 약 120 kW 내외 매우 높음 (4nm 미세 공정으로 와트당 성능 극대화) 상대적으로 높음 (인터포저를 거치며 전력 손실 발생) 상대적으로 낮음 (안정성 검증 완료) 둥팡쏸신 DF2000 (3D DRAM 방식) 수랭식 + 특수 방열 소재 복합 적용 매우 높음 (GPU 위에 메모리가 쌓여 열이 갇힘) 약 85℃ ~ 95℃ (일반 DRAM 기반 구조) 약 120 kW (TY64 슈퍼노드 기준) 낮음 (14nm 구형 공정으로 인해 순수 연산 효율 저하) 최소화 (수직 연결로 데이터 이동 전력 획득) 매우 높음 (열 누적으로 인한 성능 저하/스프링 현상 위험) 발열 /전력 관점의 핵심 차이 와 이유 DF2000은 상하 적층 구조 특성상 다차원 냉각이 필수적임 3D 적층은 열이 빠져나갈 면적이 좁아 열밀도가 급상승함 일반 DRAM 소자는 고온에서 데이터 유실 가능성이 더 높음 시스템 전체 전력 총량은 두 시스템이 유사한 수준임 DF2000은 공정 한계로 인해 동일 연산 시 더 많은 전력을 씀 DF2000은 데이터 이동 거리가 짧아 통신 전력은 크게 절감됨 3D 구조는 상단 메모리가 하단 GPU의 열을 흡수하는 구조적 취약점 존재 성능이 공정을 앞서기는 힘들다. 미국이 죽어라 막는 이유…
2026.08.03
9
7
라이젠은 5600X 예전에 잠깐 사용한게 전부라서… 메인보드랑 같이 구매를 했는데 메인보드 케이스와 체결부위 근처에 동판이 보일정도의 기스들 아마도 장착, 탈착 할때 드라이버로 밀어버린 그런 위치들;; 그래서 구매하고 몇일 사용하다가 반품 환불 받은적이 있는데 그때도 잠깐 만져보긴 했는데 몇년이 지난일이라 기억도 안나네요. 라이젠 9600 바이오스 순정 상태 윈도우 전원 설정 최고의 전력효율로 사용을 했는데 (제 본체에는 전기요금 측정기에 파워선을 연결해서 실시간으로 소비전력 확인이 가능 합니다.) 방이 춥기 때문에 케이스팬 꺼버리고 팬LED도 꺼버리고 사용을… 영하로 떨어질때 방에 우풍이 불ㅁ때 팬돌아가는걸 보면 더추운 느낌이라;; 그리고 어항 케이스 강화유리 빼버리니 아니 이거슨 오픈케이스 같은!!! 그런데 이걸 켜나 끄나 사용해 보면 전력 차이가 안느껴짐 5060TI 에프터버너에서 파워 리미트 83% 설정을 해도 차이가 안남 ㅎㅎ 10700K에서는 차이가 제법 났는데 뭥미?? 그래서 일반적인 커옵-20을 주었습니다. 약간 차이가 느껴지기 시작을 하네요. 야금 야금 설정을 만져봐야 겠습니다. 어짜피 일단 9500F, 9600 둘중에 하나를 선택을 해야 되니까요.ㅋ
2026.02.03
5
1
파인인포
  • 종합
  • 뉴스/정보
  • 커뮤니티
  • 질문/토론