AI 뉴스
구글 Gemini 4 Carbon은 누가 쓸 수 있을까, 취약점 찾기 88.2%지만 지금은 보안 기관만 쓴다
구글이 10월 28일 보안 특화 모델 Gemini 4 Carbon을 발표했습니다. 취약점 찾기 88.2%, 종합 지수 59점이지만 지금은 보안 기관만 씁니다. 이 블로그 코드를 점검시키면 드는 비용(약 0.67달러)도 직접 계산했습니다.
AI를 직접 돌려보고
빛나는 숫자로 남겨요
로컬 AI를 직접 돌려 잰 속도와 메모리, 출처를 확인한 IT·AI 소식, 프로그래밍 이야기를 적습니다.
같은 질문, 두 그래픽카드
측정 때 답변을 잰 속도 그대로 재생합니다RTX 5090147.0 tok/s
RTX 5060 Ti 16GB44.5 tok/s
최근 테스트
테스트 기록 전체 보기 →RTX 509010.24
[RTX 5090 32GB] 코딩 AI Flint 40B를 내 PC에서 돌리면, 초당 231토큰에 파이썬 8문제 중 7문제를 풀었다
Flint 40B () · UD-Q4_K_XL (4비트)
228.1 tok/s
VRAM -GB / 32GB
RTX 509010.24
[RTX 5090 32GB] 코딩 AI Flint 40B를 내 PC에서 돌리면, 초당 231토큰에 파이썬 8문제 중 7문제를 풀었다
Flint 40B () · NVFP4 (4비트, 블랙웰용 공식 파일)
213.6 tok/s
VRAM -GB / 32GB
RTX 5060 Ti 16GB10.21
[RTX 5060 Ti 16GB] Liquid AI의 LFM2.5-24B-A2B를 16GB에서 돌리면, 이 PC에서 잰 모델 중 가장 빠른 초당 209토큰이었다
LFM2.5-24B-A2B () · QAD-Q4_0 (4비트, 양자화 보정 학습판)
240.4 tok/s
VRAM -GB / 16GB
RTX 5060 Ti 16GB10.11
[RTX 5060 Ti 16GB] Qwen3.8 27B를 7.9GB로 줄인 Saluki 27B, 16GB에서 쓸 만할까, 초당 34토큰이고 생각 단계는 꼭 정해야 했다
Saluki 27B 1.0 () · IQ2-mix (Qwen3.8 27B 를 7.90GB 로)
36.5 tok/s
VRAM -GB / 16GB
RTX 5060 Ti 16GB10.10
[RTX 5060 Ti 16GB] OpenAI의 gpt-oss 20B를 16GB에서 돌리면, 컨텍스트 10만에서도 초당 120토큰이 나왔다
gpt-oss 20B () · UD-Q4_K_XL (4비트, unsloth)
123.4 tok/s
VRAM -GB / 16GB
RTX 5060 Ti 16GB10.10
[RTX 5060 Ti 16GB] 로컬 AI Gemma 4 E4B, E2B보다 얼마나 나을까, 27% 느린 대신 코딩 문제를 두 개 더 풀었다
Gemma 4 E4B (UD-Q4_K_XL) · QAT UD-Q4_K_XL (4비트, unsloth)
144.2 tok/s
VRAM -GB / 16GB
RTX 5060 Ti 16GB10.10
[RTX 5060 Ti 16GB] 로컬 AI Gemma 4 E2B, 가장 작은 모델은 얼마나 쓸 만할까, VRAM 3.6GB에 초당 197토큰이었다
Gemma 4 E2B (UD-Q4_K_XL) · QAT UD-Q4_K_XL (4비트, unsloth)
204.8 tok/s
VRAM -GB / 16GB
RTX 5060 Ti 16GB10.07
[RTX 5060 Ti 16GB] 로컬 AI 코딩 모델 Qwen3-Coder 30B A3B, 16GB에서 얼마나 빠를까, 기본값 145t/s인데 컨텍스트를 늘리자 절반이 됐다
Qwen3-Coder 30B A3B () · UD-Q3_K_XL (3비트, unsloth)
144.6 tok/s
VRAM 13.7GB / 16GB
RTX 509010.06
[RTX 5090 32GB] 로컬 AI Gemma 4 12B, Unsloth 기본값이면 충분할까, 32GB는 초당 233토큰인데 16GB는 52토큰이었다
Gemma 4 12B QAT () · UD-Q4_K_XL (4비트)
231.7 tok/s
VRAM -GB / 32GB
RTX 5060 Ti 16GB10.05
[RTX 5060 Ti 16GB] 16GB 그래픽카드로 Qwen3.6 35B 돌아갈까, 3비트 파일이 VRAM 13.2GB에 초당 90토큰이었다
Qwen3.6 35B A3B () · UD-IQ3_XXS (3비트, unsloth)
115.0 tok/s
VRAM -GB / 16GB
RTX 5060 Ti 16GB10.04
[RTX 5060 Ti 16GB] 16GB 그래픽카드에서 Gemma 4 26B는 얼마나 빠를까, Unsloth Studio 기본값으로 초당 94토큰이었다
Gemma 4 26B A4B QAT () · UD-Q4_K_XL (4비트, unsloth)
99.9 tok/s
VRAM 14.1GB / 16GB · 일부는 시스템 램
RTX 5060 Ti 16GB10.03
[RTX 5060 Ti 16GB] Ternary Bonsai 2 27B는 16GB에서 돌아갈까, VRAM 9.3GB에 초당 48토큰이었다
Ternary Bonsai 2 27B · PQ2_0 (터너리, 2비트 칸에 저장)
45.7 tok/s
VRAM 7.8GB / 16GB
RTX 5060 Ti 16GB10.02
[RTX 5060 Ti 16GB] Qwen3.8 27B GSQ-RCO는 왜 2t/s밖에 안 나올까, 설정 세 가지를 바꾸자 29t/s가 됐다
Qwen3.8 27B GSQ-RCO · IQ3_S (3비트, GSQ-RCO)
2.3 tok/s
VRAM 13.5GB / 16GB · 일부는 시스템 램
RTX 5060 Ti 16GB10.02
[RTX 5060 Ti 16GB] 16GB 그래픽카드로 Qwen3.5 9B 돌려도 될까, 10만 자를 넣어도 19초 만에 답이 시작됐다
Qwen3.5 9B · UD-Q6_K_XL (6비트, unsloth)
45.9 tok/s
VRAM 9.7GB / 16GB
RTX 5060 Ti 16GB10.02
[RTX 5060 Ti 16GB] Ornith 1.5 9B는 가장 큰 Q8로 받아도 될까, VRAM 10.6GB에 50t/s가 나왔다
Ornith 1.5 9B · Q8_0 (8비트)
58.8 tok/s
VRAM 10.6GB / 16GB
RTX 5060 Ti 16GB09.30
[RTX 5060 Ti 16GB] 16GB 그래픽카드로 Qwen3.8 27B 돌아갈까, 2비트로 줄이자 15배 빨라졌다
Qwen3.8 27B · Q4_K_M (4비트)
2.1 tok/s
VRAM 12.6GB / 16GB · 일부는 시스템 램
RTX 5060 Ti 16GB09.30
[RTX 5060 Ti 16GB] 16GB 그래픽카드로 Qwen3.8 27B 돌아갈까, 2비트로 줄이자 15배 빨라졌다
Qwen3.8 27B · IQ2_S (2비트, unsloth)
35.1 tok/s
VRAM 9.9GB / 16GB
RTX 5060 Ti 16GB09.29
[RTX 5060 Ti 16GB] 16GB 그래픽카드로 Gemma 4 26B 돌아갈까, 돌아가긴 했지만 GPU는 절반도 일하지 않았다
Gemma 4 26B A4B QAT · Q4_0 (4비트)
18.7 tok/s
VRAM 12.4GB / 16GB · 일부는 시스템 램
RTX 509009.29
[RTX 5090 32GB] 24GB 그래픽카드로 Meta Muse Glimmer 돌아갈까, 최대 컨텍스트에서도 19.2GB였다
Muse Glimmer · Q4_K_M (4비트)
74.3 tok/s
VRAM 17.5GB / 32GB
RTX 509009.29
[RTX 5090 32GB] 1세대는 외국어가 섞였는데, Ternary Bonsai 2 27B는 한국어 답 33개 중 30개가 깨끗했다
Ternary Bonsai 2 27B · PTQ1_0 (터너리 약 1.7비트)
115.4 tok/s
VRAM 7.1GB / 32GB
RTX 509009.29
[RTX 5090 32GB] Qwen3.8 27B는 왜 답을 안 할까, 생각 단계 하나 낮추자 12초 만에 나왔다
Qwen3.8 27B · Q4_K_M (4비트)
99.3 tok/s
VRAM 19.7GB / 32GB
RTX 5060 Ti 16GB09.28
[RTX 5060 Ti 16GB] 16GB 그래픽카드로 Gemma 4 12B 돌려도 될까, 7GB가 남았다
Gemma 4 12B QAT · Q4_0 (4비트)
43.6 tok/s
VRAM 8.6GB / 16GB
RTX 509009.28
[RTX 5090 32GB] 27B를 3.8GB로 줄인 Bonsai, 한국어로 물었더니 외국어 5개가 섞여 나왔다
Bonsai 27B · Q1_0 (1비트)
140.3 tok/s
VRAM 6.0GB / 32GB
RTX 509009.28
[RTX 5090 32GB] Gemma 4 12B, '생각' 버튼 하나로 정답률 0%와 100%가 갈렸다
Gemma 4 12B QAT · Q4_0 (4비트)
144.8 tok/s
VRAM 9.0GB / 32GB
Gemma 4 12B QAT · 8,1928.6GB
원활 RTX 5060 Ti에서 돌려 봄
Bonsai 27B · 131,07213.8GB
주의 1.2GB 남음
Bonsai 27B · 262,14421.9GB
부적합 약 6.9GB 부족
최근 게시글
총 70개의 글
AI 뉴스
AI 도구
AI에게 내 브라우저를 빌려주면 네이버도 열릴까, ego 브라우저 5일 사용기와 사이트 5곳 시험
AI 에이전트용 브라우저 ego lite를 5일 동안 써 봤습니다. 내 로그인 그대로 네이버페이 부동산, 네이버 지도, 쿠팡, 당근, 네이버 쇼핑에서 일을 끝냈고, 로그인 없는 자동화 브라우저는 그중 3곳에서 막혔습니다. 조심할 점도 정리했습니다.
![[RTX 5090 32GB] 코딩 AI Flint 40B를 내 PC에서 돌리면, 초당 231토큰에 파이썬 8문제 중 7문제를 풀었다](https://evuelaimg.dothome.co.kr/blog/a2af1ca88c8a_thumb.jpg)
RTX 5090 32GB
[RTX 5090 32GB] 코딩 AI Flint 40B를 내 PC에서 돌리면, 초당 231토큰에 파이썬 8문제 중 7문제를 풀었다
Recursive SI의 공개 코딩 모델 Flint 40B를 RTX 5090 32GB의 Unsloth Studio에서 Q4와 공식 NVFP4로 쟀습니다. 초당 230.9토큰, VRAM 30.4GB, 파이썬 8문제 중 7문제를 풀었고, 생각은 끌 수 없었으며 37만 8천 원을 3만 7,800원으로 읽었습니다.
AI 도구
회사 일에 AI를 써도 될까, 학습을 꺼도 대화는 30일 동안 서버에 남는다
ChatGPT와 Claude에서 학습 설정을 꺼도 대화는 서버에 저장되고, 삭제해도 최대 30일 남습니다. 공식 도움말과 설정 화면으로 보관 규칙, 회사용 요금제와의 차이, Gmail 연결 도구 30개의 권한을 확인하고 업무에 AI를 쓸 때 지킬 기준을 정리했습니다.
![[RTX 5060 Ti 16GB] Liquid AI의 LFM2.5-24B-A2B를 16GB에서 돌리면, 이 PC에서 잰 모델 중 가장 빠른 초당 209토큰이었다](https://evuelaimg.dothome.co.kr/blog/d22e68d82f55_thumb.jpg)
RTX 5060 Ti 16GB
[RTX 5060 Ti 16GB] Liquid AI의 LFM2.5-24B-A2B를 16GB에서 돌리면, 이 PC에서 잰 모델 중 가장 빠른 초당 209토큰이었다
24B 중 토큰마다 2.45B만 쓰는 Liquid AI의 LFM2.5-24B-A2B를 RTX 5060 Ti 16GB의 Unsloth Studio에서 쟀습니다. 기본값 초당 208.6토큰으로 이 PC에서 가장 빨랐고, 100,000자 요약은 20.7초, 생각은 끌 수 없었습니다.
AI 뉴스
웹사이트들이 AI 에이전트를 막기 시작했다, 한국 사이트 47곳의 robots.txt를 직접 확인하니 19곳이 막았다
아마존·옐프·델타·JP모건이 AI 에이전트를 막기 시작했습니다. 한국 사이트 47곳의 robots.txt를 직접 받아 읽어 보니 19곳이 AI 봇을 따로 막았고 14곳은 막지 않았습니다. 학습·검색·대신 봇별로 나눈 결과와 실제 원문을 정리했습니다.
![[RTX 5090 32GB] MiniCPM-V 4.7 35B 한국어 사진 읽기 테스트, 0.6초 만에 답하지만 붓글씨와 손글씨는 틀렸다](https://evuelaimg.dothome.co.kr/blog/6ab013cb2c31_thumb.jpg)
RTX 5090 32GB
[RTX 5090 32GB] MiniCPM-V 4.7 35B 한국어 사진 읽기 테스트, 0.6초 만에 답하지만 붓글씨와 손글씨는 틀렸다
사진과 영상을 읽는 공개 모델 MiniCPM-V 4.7 35B A3B를 RTX 5090에서 쟀습니다. 속도는 초당 269토큰, 표와 화면 캡처는 70번 중 65번, Pixabay 실제 사진은 55번 중 29번 맞혔습니다. Unsloth Studio에서 사진이 안 된 이유와 한글 간판을 틀린 모습, 나아지는 설정도 적었습니다.
AI 뉴스
Cursor 요금제가 Grok·X와 하나로 합쳐졌다, 90달러가 30달러가 됐는데 Claude와 GPT는 따로 낸다
Cursor, Grok, X Premium 요금제가 The X Subscription으로 합쳐졌습니다. 셋을 따로 내면 90달러였던 것이 Premium 30달러가 됐습니다. 다만 Claude와 GPT는 API 가격으로 따로 내야 해서, 기존 구독자가 바꿀지 말지를 계산 예시와 함께 정리했습니다.
![[RTX 5060 Ti 16GB] Qwen3.8 27B를 7.9GB로 줄인 Saluki 27B, 16GB에서 쓸 만할까, 초당 34토큰이고 생각 단계는 꼭 정해야 했다](https://evuelaimg.dothome.co.kr/blog/cd6547b874ea_thumb.jpg)
RTX 5060 Ti 16GB
[RTX 5060 Ti 16GB] Qwen3.8 27B를 7.9GB로 줄인 Saluki 27B, 16GB에서 쓸 만할까, 초당 34토큰이고 생각 단계는 꼭 정해야 했다
Qwen3.8 27B를 7.90GB로 줄인 Saluki 27B를 RTX 5060 Ti 16GB의 Unsloth Studio에서 쟀습니다. 기본값 초당 34토큰, 한국어 도구 호출 60번 모두 정답이었고, 생각 단계를 정하지 않으면 15번 중 6번은 답이 나오지 않았습니다.