18+

전체 게시글

빌런 TOP 20
일간 l 주간 l 월간
인텔 코어 울트라7
중국 AI 반도체 기업 둥팡쑤안신(DFSX)이 연산 성능(FLOPS)보다 메모리 대역폭이 AI 성능을 결정하는 핵심 요소라는 새로운 접근법을 제시했다. 14나노 공정으로 제작한 차세대 AI 칩 'DF2000'을 통해 엔비디아 GB200 NVL72보다 약 두 배 높은 메모리 대역폭을 구현하겠다는 것. DFSX는 현재 14나노 공정 기반 AI 가속기 DF1000을 개발하고 있으며, 올해 4분기에는 후속 모델인 DF2000을 공개할 계획이다. DF1000은 일반적인 GPU와 다른 3D 니어 메모리 컴퓨트(3D Near-Memory Compute) 구조를 채택했다. 연산 다이 위에 메모리를 직접 적층하고, 웨이퍼 간 하이브리드 본딩(Wafer-to-Wafer Hybrid Bonding)을 적용해 두 층을 수직으로 연결하는 방식이다. 기존 HBM처럼 마이크로범프(Micro Bump)나 배선을 이용하는 대신 구리(Cu) 접합을 통해 수천만 개의 수직 인터커넥트를 형성한다. 메모리와 연산 유닛 사이의 데이터 이동 거리를 크게 줄여 대역폭과 전력 효율을 높이는 것이 핵심이다. 그리고 DF2000에서는 구조가 한 단계 더 발전한다. 단일 메모리 적층 구조를 넘어 여러 개의 연산-메모리 타워를 하나의 베이스 다이 위에 배열하는 '3.5D 인피니티 칩렛(3.5D Infinity Chiplet)' 구조다. DFSX는 이를 통해 기존 메모리 스택 대신 자체 설계한 3D DRAM 구조를 도입해 칩 내부에서 처리할 수 있는 데이터 용량과 메모리 대역폭을 대폭 확대했다고 설명했다. 메모리 성능 수치도 공개됐다. DF2000 한 개 칩은 최대 15TB/s의 메모리 대역폭을 제공하며, 이를 64개 연결한 TY64 슈퍼노드(SuperNode)에서는 총 960TB/s의 메모리 대역폭을 구현할 수 있다는 것이다. 이는 엔비디아 GB200 NVL72 시스템의 약 576TB/s보다 약 67% 높은 수준이다. 다만 연산 성능에서는 차이가 있다. DF2000 기반 TY64 슈퍼노드는 BF16 기준 약 64PFLOPS를 제공하는 반면, 엔비디아 GB200 NVL72는 약 360PFLOPS 수준으로 알려져 있다. 즉 메모리 대역폭은 앞서지만, 순수 연산 성능은 엔비디아가 크게 우위다. DFSX는 이러한 차이를 메모리 병목(Memory Wall) 해소로 극복할 수 있다고 주장한다. 최근 초거대 언어모델(LLM)은 GPU 연산 성능보다 메모리 용량과 대역폭, 인터커넥트 성능이 시스템 처리량을 결정하는 경우가 늘고 있다. GPU가 연산을 수행하는 시간보다 메모리에서 데이터를 기다리는 시간이 더 길어지는 현상이 빈번해지면서, FLOPS보다 메모리 처리 능력이 실제 AI 성능을 좌우한다는 것이다. 회사는 차세대 DF3000도 준비하고 있다. DF3000은 칩당 메모리 대역폭을 20TB/s까지 확대하며, TY64 슈퍼노드에서는 총 1,280TB/s를 목표로 하고 있다. 이는 엔비디아 차세대 베라 루빈(Vera Rubin) NVL72 시스템의 약 1,580TB/s와 비교해도 약 20% 수준의 차이에 불과하다. 업계에서는 DFSX가 미세공정 경쟁 대신 시스템 아키텍처와 메모리 중심 설계로 차별화를 시도하고 있다고 평가한다. 특히 중국이 첨단 EUV 공정 접근에 제약을 받는 상황에서, 성숙 공정과 3D 적층, 하이브리드 본딩을 결합해 AI 반도체 경쟁력을 확보하려는 대표적인 사례로 보고 있다. 다만 DF2000과 DF3000의 성능 수치는 DFSX가 제시한 목표치와 공개 자료에 불과하다. 실제 연산 효율과 전력 소비, 소프트웨어 생태계, 대규모 AI 학습 및 추론 성능은 양산 이후 검증이 필요하다. 출처 = https://weeklypost.kr/news/articleView.html?idxno=11738
2026.08.03
7
5
AMD의 최신 DRAM 관련 특허는 DRAM 실리콘을 더 빠르게 만들지 않고도 메모리 대역폭을 사실상 두 배로 늘릴 수 있도록 설계되었습니다. 이는 모듈 내 로직을 변경하는 방식으로 구현됩니다. 하드웨어 중심 업그레이드는 일반적으로 아키텍처를 개선하거나 로직·반도체 활용 방식을 개편해야 하기 때문에 한계가 따릅니다. 그러나 AMD의 이번 특허는 비교적 간단한 방법으로 DDR5 메모리 대역폭을 두 배로 늘리는 데 성공했습니다. AMD는 이를 ‘고대역폭 DIMM(HB-DIMM)’이라고 명명했습니다. DRAM 공정 업그레이드에만 집중하는 대신, 이번 특허는 메모리 대역폭을 높이기 위해 RCD(레지스터/클록 드라이버)와 데이터 버퍼 칩을 통합하는 등 DIMM 중심의 변화를 적용했습니다. 이 구현의 기술적 세부 사항을 살펴보면, HB-DIMM 기술은 DRAM 자체 개선에 초점을 두지 않습니다. 단순한 재타이밍과 멀티플렉싱을 통해, 메모리 대역폭은 핀당 6.4 Gb/s에서 12.8 Gb/s로 증가하여 출력이 사실상 두 배로 늘어납니다. RCD를 통해 AMD는 온보드 데이터 버퍼를 활용해 두 개의 일반 속도 DRAM 스트림을 하나의 고속 스트림으로 프로세서에 전달할 수 있도록 하였고, 이를 호스트 시스템에 할당할 경우 대역폭이 두 배로 늘어납니다. 이 기술은 주로 AI나 대역폭 제한이 있는 워크로드를 위해 설계되었지만, 특허에서는 APU/iGPU와 관련된 또 다른 흥미로운 구현도 언급하고 있습니다. 여기서는 두 가지 다른 ‘메모리 플러그’를 사용하는 방식인데, 표준 DDR5 PHY와 추가된 HB-DIMM PHY가 그것입니다. 더 큰 메모리 풀은 DDR5에서 제공되고, 작은 메모리 풀은 앞서 설명한 HB-DIMM 방식을 통해 데이터를 훨씬 빠르게 이동시키는 용도로 사용됩니다. APU의 경우, 이 접근법은 온디바이스 AI에 가장 적합합니다. 시스템이 많은 데이터를 스트리밍하며 AI 작업을 처리할 때, 더 빠른 응답 속도가 요구되기 때문입니다. 전통적인 시스템에서도 엣지 AI의 중요성이 커지고 있는 만큼, 이 방식은 AMD에 큰 이점을 가져다줄 것으로 보입니다. 다만, 이 접근법의 유일한 단점은 높은 메모리 대역폭을 지원하기 위해 전력 소모가 늘어난다는 점이며, 이에 따라 효과적인 냉각 메커니즘도 필요합니다. 참고로, AMD는 메모리 분야에서 선도적인 기업 중 하나입니다. 잘 모르는 사람을 위해 설명하면, AMD는 SK하이닉스와 협력하여 HBM을 설계했는데, 이는 이들이 해당 분야에서 전문성을 갖추고 있음을 보여줍니다. HB-DIMM 방식은 DRAM 실리콘을 개선하지 않고도 메모리 대역폭을 사실상 두 배로 늘릴 수 있기 때문에 매우 유망한 접근법으로 평가됩니다. https://wccftech.com/amd-newest-patent-brings-a-gigantic-boost-to-memory-performance/
2025.09.27
5
0
파인인포
  • 종합
  • 뉴스/정보
  • 커뮤니티
  • 질문/토론