EVUELA AI LAB에서 원하는 정보를 찾아보세요
"블랙웰" 검색 결과 4건
![[RTX 5060 Ti 16GB] Ternary Bonsai 2 27B는 16GB에서 돌아갈까, VRAM 9.3GB에 초당 48토큰이었다](https://evuelaimg.dothome.co.kr/blog/5a3e01caaa44_thumb.jpg)
RTX-5060TI 16GB
RTX 5060 Ti 16GB에서 Ternary Bonsai 2 27B(PQ2_0)를 PrismML llama-server로 재 봤습니다. VRAM 9.3GB, 생성 속도 약 48t/s였고, 기본 생각 단계 xhigh는 800자 글에 4~7분, medium은 14~21초였습니다.
![[RTX 5090 32GB] 1세대는 외국어가 섞였는데, Ternary Bonsai 2 27B는 한국어 답 33개 중 30개가 깨끗했다](https://evuelaimg.dothome.co.kr/blog/ca630da6c4d1_thumb_card85.jpg)
RTX-5090
Qwen3.8 27B를 약 1.7비트로 줄인 PrismML Ternary Bonsai 2 27B(5.95GB)를 RTX 5090에서 재 봤습니다. LM Studio로는 아직 열리지 않아 제작사 llama.cpp로 돌렸고, 한국어 답 33개 중 30개에 외국어가 섞이지 않았습니다. VRAM 10.6GB, 약 118 t/s(초당 토큰 수), 생각 단계별 결과를 정리했습니다.
![[RTX 5090 32GB] Gemma 4 12B, '생각' 버튼 하나로 정답률 0%와 100%가 갈렸다](https://evuelaimg.dothome.co.kr/blog/a1b6950a7847_thumb_card80.jpg)
RTX-5090
RTX 5090 PC의 LM Studio에서 Gemma 4 12B QAT(Q4_0)를 기본 설정으로 직접 돌린 기록입니다. PC 사양, LM Studio 기본 설정값, 생성 속도, 컨텍스트별 VRAM, 긴 글 요약, 생각 기능 켬·끔 비교, 이미지 입력까지 캡처와 실측값으로 정리했습니다.
IT 뉴스
엔비디아의 차세대 지포스 RTX 5090과 블랙웰(Blackwell) 아키텍처 기반 GPU들이 보여주는 AI 추론 및 학습 성능 향상 수치와 핵심 기술 사양을 분석합니다.