18+

전체 게시글

빌런 TOP 20
일간 l 주간 l 월간
1
[컴퓨터] RTX 5080 특가에 CPU 쿨러 사은품! 조텍, 지포스 그래픽카드 선착순 특가
2
[컴퓨터] RTX 5080 특가에 CPU 쿨러 사은품! 조텍, 지포스 그래픽카드 선착순 특가 진행
3
[인공지능] 엔비디아, 범용 로봇 개발 위한 아이작 플랫폼 고도화
4
[인공지능] 엔비디아, 율리히 슈퍼컴퓨팅 센터서 내결함성 양자 컴퓨팅 사상 최대 규모 시뮬레이션 구현
5
[컴퓨터] 조텍 RTX 5090 약 47만 달러어치, 브라질 공항에서 행방불명
6
[컴퓨터] RTX 5090을 또 100원에 판다! 탁탁몰, 조텍 RTX 5090 ‘100원딜’ 이벤트 앵콜 진행
7
[컴퓨터] 조텍, RTX 50 그래픽카드 대상 ‘컨트롤 레조넌트’ 게임 번들 프로모션 연장 진행
8
[쇼핑] 맥스엘리트, 컴퓨존 한정, 1stPlayer 와칠 WA7-K RGB 한정 수량 특가 판매
9
[컴퓨터] 엔비디아, ‘팬텀 블레이드 제로’ 등 최신 게임에 DLSS 적용 확대
10
[이슈/논란] 웃고 넘겼던 김정은 사망설
11
[컴퓨터] 코잇, 킹스톤 서버용 메모리 ‘Server Premier’ 출시
12
[유머] 한문철 티비 엉뚱 실수 레전드
13
[기타핫딜] [네이버스토어] 10/26 넾다세일 선착순 쿠폰 및 0원 럭키드로우 응모 (무료 / 배송 무료)
14
[게임/SW핫딜] [네이버쇼핑] 엑스박스 컴투스토어 엑스박스 나노 컨트롤러 예약판매 (78,000원 / 배송 무료)
15
[컴퓨터] STCOM, 뛰어난 가성비 갖춘 사무용 완제 PC 4종 출시
16
[기타핫딜] [G마켓] 지마켓 장바구니 쿠폰 (무료 / 배송 무료)
17
[컴퓨터] 지타이, PCIe 4.0 SSD ‘Ti600s’ 출시
18
[핫딜정보] 크록스 오프라인 패밀리세일 (10/24~10/26)
19
[이슈/논란] 석사 학위 있는 뉴욕 노숙자의 안타까운 말 끝
인텔 코어 울트라7
X 사용자 Steveibe가 대형 AI 모델을 가정 환경에서 실행할 수 있는지 확인하기 위한 테스트 벤치마크를 공유했습니다. 시연에는 230B 규모의 AI 추론 모델인 MiniMax M2.7이 사용되었으며, NVIDIA GPU 기반의 네 가지 서로 다른 테스트 환경에서 실행되었습니다. 평가에는 컨텍스트 크기 32k와 최대 토큰 길이 4096이 적용되었습니다. 사용자는 IQ3_XXS라는 GGUF 양자화 방식을 사용했으며, 이는 낮은 VRAM 환경에서도 동작하면서 RTX PRO 6000의 96GB VRAM에 맞출 수 있는 최대 수준의 양자화입니다. 동일한 설정이 모든 테스트 환경에 적용되었으며 결과는 다음과 같습니다: 4x RTX 4090 (96GB): 71.52 tok/s, TTFT 1045ms 4x RTX 5090 (128GB): 120.54 tok/s, TTFT 725ms 1x RTX PRO 6000 (96GB): 118.74 tok/s, TTFT 765ms DGX Spark (128GB): 24.41 tok/s, TTFT 741ms 토큰 생성 속도 기준으로 단일 RTX PRO 6000 Blackwell GPU는 118.74 tok/s를 기록했습니다. 비교하면 RTX 5090 4개(총 128GB VRAM)는 120.54 tok/s, 이전 세대 RTX 4090 4개는 71.52 tok/s를 기록했습니다. DGX Spark Mini AI PC는 128GB 메모리를 탑재하고도 24.41 tok/s를 기록했습니다. 그러나 단순 토큰 생성 속도만으로 성능을 판단하기는 어렵고, 전력 소비와 가격도 중요한 요소입니다. 전력 소비를 보면 차이는 더욱 두드러집니다. RTX 4090 및 RTX 5090 기반 4-GPU 구성은 각각 1800W와 2300W를 소비하는 반면, 단일 RTX PRO 6000 Blackwell GPU는 600W 수준에 그칩니다. 4x4090 → 최대 1,800W (450W × 4) 4x5090 → 최대 2,300W (575W × 4) RTX PRO 6000 → 최대 600W DGX Spark → 최대 240W (전체 시스템) 이는 RTX 5090 4개 대비 약 1/4, RTX 4090 4개 대비 약 1/3 수준의 전력 소비입니다. DGX Spark는 전체 시스템 기준 240W를 소비하며, 비교적 낮은 전력으로 구동되는 일체형 AI 시스템이라는 점이 특징입니다. 가격 측면에서는 RTX PRO 6000 Blackwell 단일 GPU가 약 9,500달러, RTX 5090은 개당 약 3,500달러로 4개 구성 시 총 14,000달러 수준입니다. DGX Spark는 가격 인상 이후 약 4,699달러에 판매되고 있습니다. RTX 4090 평균 가격: 약 3,000달러 (GPU당) RTX 5090 평균 가격: 약 3,500달러 (GPU당) RTX PRO 6000 평균 가격: 약 9,500달러 (GPU당) DGX Spark AI PC 평균 가격: 약 4,699달러 AI 모델은 멀티 GPU 구성을 통해 메모리 용량을 확장할 수 있지만, 구성에 따른 오버헤드가 존재합니다. 이러한 점에서 단일 RTX PRO 6000 Blackwell 96GB는 더 높은 효율성과 우수한 성능, 그리고 비용 대비 경쟁력을 제공하는 대안으로 평가됩니다.
2026.04.20
0
1
파인인포
  • 종합
  • 뉴스/정보
  • 커뮤니티
  • 질문/토론