현재 난리났다는 로컬 Ai 양자화 모델성능 근황
대장여
전과없음
2014.05.26가입
조회 1,687
추천 15
2026.06.27 (토) 22:01
이번에 엔비디아에서 공식적으로 양자화 했는데 메모리 사용량을 대폭 줄이면서도 성능은 유지하게 만들어 소비자들도 쉽게 사용할 수 있도록 만듦 거의 원본수준의 성능이 나오는데 메모리 사용량은 대폭 줄어듦 집에 굴러다니는 B200 4장만 있으면 사용가능
이번에 엔비디아에서 공식적으로 양자화 했는데
메모리 사용량을 대폭 줄이면서도
성능은 유지하게 만들어
소비자들도 쉽게 사용할 수 있도록 만듦
거의 원본수준의 성능이 나오는데
메모리 사용량은 대폭 줄어듦
집에 굴러다니는
B200 4장만 있으면 사용가능
댓글 4
무이지요
2026.06.27 22:01:20
리올논
2026.06.27 22:01:26
홈극강첼시
2026.06.27 22:01:33
밝히는그대
2026.06.27 22:01:40
기운이 하나도 없어서 얼박사 한잔 때림 [1]
인스타에 올라온 2026년 월드컵 라스트 댄스 [3]
일주일만 버티면 월급날~ [2]
응 걍 프랑스 우승 브라질 준우승이다!!!!!!!!! [1]
오늘의 직원식 [2]
비 올 것 같긴 함 [1]
프랑스랑 빅클럽 붙으면 프랑스가 이기나 [1]
벌써 3시라고? [1]
아 장마 진짜 개빡치네 [2]
정몽규 회장이 불쌍한 사람인 이유ㅋㅋㅋㅋ [2]
정몽규 회장님이 얼마나 불쌍한 분이신지... [4]
메시 우승해도 발롱은 안 되지? [5]
해외 반응 보니까 의외로 콜롬비아가 민심이 꽤 좋네 [3]
월드컵 32강 광탈한 독일 네덜란드 [4]
시간이 정말 빠르다는 증거 [3]
문신혐오자들도 인정하는 문신 [3]
월드컵 세레머니는 확실히 보는맛이 다름 [3]
내일 월드컵이 기대되는 이유 [3]
월드컵 득점왕 경쟁 근황 [3]
집마다 다른 에어컨 트는 유형 [3]
