AI 도구
Claude Code에 개인정보가 넘어가지 않게 하려면, 요청문 하나로 훅을 만들어 보니 원래 값 7개가 0개로
Claude Code에 요청문 하나를 붙여 넣어 파일·명령 결과·메시지 속 이메일과 전화번호를 PC에서 먼저 가리는 훅을 만들었습니다. 가짜 명단 시험에서 원래 값 7개가 0개가 됐고, 화면 안내와 못 가리는 것까지 정리했습니다.
AI를 직접 돌려보고
빛나는 숫자로 남겨요
로컬 AI를 직접 돌려 잰 속도와 메모리, 출처를 확인한 IT·AI 소식, 프로그래밍 이야기를 적습니다.
같은 질문, 두 그래픽카드
측정 때 답변을 잰 속도 그대로 재생합니다RTX 5090147.0 tok/s
RTX 5060 Ti 16GB44.5 tok/s
최근 테스트
테스트 기록 전체 보기 →RTX 509010.24
[RTX 5090 32GB] 코딩 AI Flint 40B를 내 PC에서 돌리면, 초당 231토큰에 파이썬 8문제 중 7문제를 풀었다
Flint 40B () · UD-Q4_K_XL (4비트)
228.1 tok/s
VRAM -GB / 32GB
RTX 509010.24
[RTX 5090 32GB] 코딩 AI Flint 40B를 내 PC에서 돌리면, 초당 231토큰에 파이썬 8문제 중 7문제를 풀었다
Flint 40B () · NVFP4 (4비트, 블랙웰용 공식 파일)
213.6 tok/s
VRAM -GB / 32GB
RTX 5060 Ti 16GB10.21
[RTX 5060 Ti 16GB] Liquid AI의 LFM2.5-24B-A2B를 16GB에서 돌리면, 이 PC에서 잰 모델 중 가장 빠른 초당 209토큰이었다
LFM2.5-24B-A2B () · QAD-Q4_0 (4비트, 양자화 보정 학습판)
240.4 tok/s
VRAM -GB / 16GB
RTX 5060 Ti 16GB10.11
[RTX 5060 Ti 16GB] Qwen3.8 27B를 7.9GB로 줄인 Saluki 27B, 16GB에서 쓸 만할까, 초당 34토큰이고 생각 단계는 꼭 정해야 했다
Saluki 27B 1.0 () · IQ2-mix (Qwen3.8 27B 를 7.90GB 로)
36.5 tok/s
VRAM -GB / 16GB
RTX 5060 Ti 16GB10.10
[RTX 5060 Ti 16GB] OpenAI의 gpt-oss 20B를 16GB에서 돌리면, 컨텍스트 10만에서도 초당 120토큰이 나왔다
gpt-oss 20B () · UD-Q4_K_XL (4비트, unsloth)
123.4 tok/s
VRAM -GB / 16GB
RTX 5060 Ti 16GB10.10
[RTX 5060 Ti 16GB] 로컬 AI Gemma 4 E4B, E2B보다 얼마나 나을까, 27% 느린 대신 코딩 문제를 두 개 더 풀었다
Gemma 4 E4B (UD-Q4_K_XL) · QAT UD-Q4_K_XL (4비트, unsloth)
144.2 tok/s
VRAM -GB / 16GB
RTX 5060 Ti 16GB10.10
[RTX 5060 Ti 16GB] 로컬 AI Gemma 4 E2B, 가장 작은 모델은 얼마나 쓸 만할까, VRAM 3.6GB에 초당 197토큰이었다
Gemma 4 E2B (UD-Q4_K_XL) · QAT UD-Q4_K_XL (4비트, unsloth)
204.8 tok/s
VRAM -GB / 16GB
RTX 5060 Ti 16GB10.07
[RTX 5060 Ti 16GB] 로컬 AI 코딩 모델 Qwen3-Coder 30B A3B, 16GB에서 얼마나 빠를까, 기본값 145t/s인데 컨텍스트를 늘리자 절반이 됐다
Qwen3-Coder 30B A3B () · UD-Q3_K_XL (3비트, unsloth)
144.6 tok/s
VRAM 13.7GB / 16GB
RTX 509010.06
[RTX 5090 32GB] 로컬 AI Gemma 4 12B, Unsloth 기본값이면 충분할까, 32GB는 초당 233토큰인데 16GB는 52토큰이었다
Gemma 4 12B QAT () · UD-Q4_K_XL (4비트)
231.7 tok/s
VRAM -GB / 32GB
RTX 5060 Ti 16GB10.05
[RTX 5060 Ti 16GB] 16GB 그래픽카드로 Qwen3.6 35B 돌아갈까, 3비트 파일이 VRAM 13.2GB에 초당 90토큰이었다
Qwen3.6 35B A3B () · UD-IQ3_XXS (3비트, unsloth)
115.0 tok/s
VRAM -GB / 16GB
RTX 5060 Ti 16GB10.04
[RTX 5060 Ti 16GB] 16GB 그래픽카드에서 Gemma 4 26B는 얼마나 빠를까, Unsloth Studio 기본값으로 초당 94토큰이었다
Gemma 4 26B A4B QAT () · UD-Q4_K_XL (4비트, unsloth)
99.9 tok/s
VRAM 14.1GB / 16GB · 일부는 시스템 램
RTX 5060 Ti 16GB10.03
[RTX 5060 Ti 16GB] Ternary Bonsai 2 27B는 16GB에서 돌아갈까, VRAM 9.3GB에 초당 48토큰이었다
Ternary Bonsai 2 27B · PQ2_0 (터너리, 2비트 칸에 저장)
45.7 tok/s
VRAM 7.8GB / 16GB
RTX 5060 Ti 16GB10.02
[RTX 5060 Ti 16GB] Qwen3.8 27B GSQ-RCO는 왜 2t/s밖에 안 나올까, 설정 세 가지를 바꾸자 29t/s가 됐다
Qwen3.8 27B GSQ-RCO · IQ3_S (3비트, GSQ-RCO)
2.3 tok/s
VRAM 13.5GB / 16GB · 일부는 시스템 램
RTX 5060 Ti 16GB10.02
[RTX 5060 Ti 16GB] 16GB 그래픽카드로 Qwen3.5 9B 돌려도 될까, 10만 자를 넣어도 19초 만에 답이 시작됐다
Qwen3.5 9B · UD-Q6_K_XL (6비트, unsloth)
45.9 tok/s
VRAM 9.7GB / 16GB
RTX 5060 Ti 16GB10.02
[RTX 5060 Ti 16GB] Ornith 1.5 9B는 가장 큰 Q8로 받아도 될까, VRAM 10.6GB에 50t/s가 나왔다
Ornith 1.5 9B · Q8_0 (8비트)
58.8 tok/s
VRAM 10.6GB / 16GB
RTX 5060 Ti 16GB09.30
[RTX 5060 Ti 16GB] 16GB 그래픽카드로 Qwen3.8 27B 돌아갈까, 2비트로 줄이자 15배 빨라졌다
Qwen3.8 27B · Q4_K_M (4비트)
2.1 tok/s
VRAM 12.6GB / 16GB · 일부는 시스템 램
RTX 5060 Ti 16GB09.30
[RTX 5060 Ti 16GB] 16GB 그래픽카드로 Qwen3.8 27B 돌아갈까, 2비트로 줄이자 15배 빨라졌다
Qwen3.8 27B · IQ2_S (2비트, unsloth)
35.1 tok/s
VRAM 9.9GB / 16GB
RTX 5060 Ti 16GB09.29
[RTX 5060 Ti 16GB] 16GB 그래픽카드로 Gemma 4 26B 돌아갈까, 돌아가긴 했지만 GPU는 절반도 일하지 않았다
Gemma 4 26B A4B QAT · Q4_0 (4비트)
18.7 tok/s
VRAM 12.4GB / 16GB · 일부는 시스템 램
RTX 509009.29
[RTX 5090 32GB] 24GB 그래픽카드로 Meta Muse Glimmer 돌아갈까, 최대 컨텍스트에서도 19.2GB였다
Muse Glimmer · Q4_K_M (4비트)
74.3 tok/s
VRAM 17.5GB / 32GB
RTX 509009.29
[RTX 5090 32GB] 1세대는 외국어가 섞였는데, Ternary Bonsai 2 27B는 한국어 답 33개 중 30개가 깨끗했다
Ternary Bonsai 2 27B · PTQ1_0 (터너리 약 1.7비트)
115.4 tok/s
VRAM 7.1GB / 32GB
RTX 509009.29
[RTX 5090 32GB] Qwen3.8 27B는 왜 답을 안 할까, 생각 단계 하나 낮추자 12초 만에 나왔다
Qwen3.8 27B · Q4_K_M (4비트)
99.3 tok/s
VRAM 19.7GB / 32GB
RTX 5060 Ti 16GB09.28
[RTX 5060 Ti 16GB] 16GB 그래픽카드로 Gemma 4 12B 돌려도 될까, 7GB가 남았다
Gemma 4 12B QAT · Q4_0 (4비트)
43.6 tok/s
VRAM 8.6GB / 16GB
RTX 509009.28
[RTX 5090 32GB] 27B를 3.8GB로 줄인 Bonsai, 한국어로 물었더니 외국어 5개가 섞여 나왔다
Bonsai 27B · Q1_0 (1비트)
140.3 tok/s
VRAM 6.0GB / 32GB
RTX 509009.28
[RTX 5090 32GB] Gemma 4 12B, '생각' 버튼 하나로 정답률 0%와 100%가 갈렸다
Gemma 4 12B QAT · Q4_0 (4비트)
144.8 tok/s
VRAM 9.0GB / 32GB
Gemma 4 12B QAT · 8,1928.6GB
원활 RTX 5060 Ti에서 돌려 봄
Bonsai 27B · 131,07213.8GB
주의 1.2GB 남음
Bonsai 27B · 262,14421.9GB
부적합 약 6.9GB 부족
최근 게시글
총 74개의 글
AI 도구
AI 뉴스
Claude Code가 내 이메일을 웹사이트에 보냈을까, 기록 8만 번을 뒤지고 120번 시켜 보니 3번 넣었다
Claude Code가 curl 명령의 User-Agent에 계정 이메일을 넣었다는 신고가 나왔습니다. 원인과 2.1.317 보호 모드가 못 막는 것을 정리하고, 내 PC 기록 81,195번을 점검한 뒤 실행을 막은 채 120번 재현해 봤습니다.
AI 뉴스
공식 Claude Code 확장 2.1.313에 SSH 뒷문, 내 PC는 괜찮을까 직접 점검해 보니 흔적은 없었다
공식 Claude Code VS Code 확장 2.1.313이 변조되어 Open VSX와 Cursor 마켓에 약 11시간 올라갔습니다. SSH 뒷문을 만드는 코드였고 최대 5,000명이 영향을 받았습니다. 저장소를 직접 조회하고, 윈도우 점검 스크립트를 만들어 돌려 봤습니다.
![[RTX 5090] VRAM 5.5GB 로컬 AI 에이전트는 어디까지 될까, LFM3-1.7B + Hermes Agent 한국어 과제 33번 중 28번 성공](https://evuelaimg.dothome.co.kr/blog/1863083e696c_thumb.jpg)
RTX 5090 32GB
[RTX 5090] VRAM 5.5GB 로컬 AI 에이전트는 어디까지 될까, LFM3-1.7B + Hermes Agent 한국어 과제 33번 중 28번 성공
에이전트용 1.7B 모델 LFM3-1.7B를 Hermes Agent에 붙여 RTX 5090에서 과제 7가지를 시켰습니다. 33번 중 28번 성공, VRAM 5.5GB, 초당 252토큰. 짧은 일은 Qwen3.8 27B보다 빨랐지만 여러 단계 작업은 5번 중 1번만 성공했습니다.
AI 뉴스
구글 Gemini 4 Carbon은 누가 쓸 수 있을까, 취약점 찾기 88.2%지만 지금은 보안 기관만 쓴다
구글이 10월 28일 보안 특화 모델 Gemini 4 Carbon을 발표했습니다. 취약점 찾기 88.2%, 종합 지수 59점이지만 지금은 보안 기관만 씁니다. 이 블로그 코드를 점검시키면 드는 비용(약 0.67달러)도 직접 계산했습니다.
AI 도구
AI에게 내 브라우저를 빌려주면 네이버도 열릴까, ego 브라우저 5일 사용기와 사이트 5곳 시험
AI 에이전트용 브라우저 ego lite를 5일 동안 써 봤습니다. 내 로그인 그대로 네이버페이 부동산, 네이버 지도, 쿠팡, 당근, 네이버 쇼핑에서 일을 끝냈고, 로그인 없는 자동화 브라우저는 그중 3곳에서 막혔습니다. 조심할 점도 정리했습니다.
![[RTX 5090 32GB] 코딩 AI Flint 40B를 내 PC에서 돌리면, 초당 231토큰에 파이썬 8문제 중 7문제를 풀었다](https://evuelaimg.dothome.co.kr/blog/a2af1ca88c8a_thumb.jpg)
RTX 5090 32GB
[RTX 5090 32GB] 코딩 AI Flint 40B를 내 PC에서 돌리면, 초당 231토큰에 파이썬 8문제 중 7문제를 풀었다
Recursive SI의 공개 코딩 모델 Flint 40B를 RTX 5090 32GB의 Unsloth Studio에서 Q4와 공식 NVFP4로 쟀습니다. 초당 230.9토큰, VRAM 30.4GB, 파이썬 8문제 중 7문제를 풀었고, 생각은 끌 수 없었으며 37만 8천 원을 3만 7,800원으로 읽었습니다.
AI 도구
회사 일에 AI를 써도 될까, 학습을 꺼도 대화는 30일 동안 서버에 남는다
ChatGPT와 Claude에서 학습 설정을 꺼도 대화는 서버에 저장되고, 삭제해도 최대 30일 남습니다. 공식 도움말과 설정 화면으로 보관 규칙, 회사용 요금제와의 차이, Gmail 연결 도구 30개의 권한을 확인하고 업무에 AI를 쓸 때 지킬 기준을 정리했습니다.
![[RTX 5060 Ti 16GB] Liquid AI의 LFM2.5-24B-A2B를 16GB에서 돌리면, 이 PC에서 잰 모델 중 가장 빠른 초당 209토큰이었다](https://evuelaimg.dothome.co.kr/blog/d22e68d82f55_thumb.jpg)
RTX 5060 Ti 16GB
[RTX 5060 Ti 16GB] Liquid AI의 LFM2.5-24B-A2B를 16GB에서 돌리면, 이 PC에서 잰 모델 중 가장 빠른 초당 209토큰이었다
24B 중 토큰마다 2.45B만 쓰는 Liquid AI의 LFM2.5-24B-A2B를 RTX 5060 Ti 16GB의 Unsloth Studio에서 쟀습니다. 기본값 초당 208.6토큰으로 이 PC에서 가장 빨랐고, 100,000자 요약은 20.7초, 생각은 끌 수 없었습니다.