현재 난리났다는 로컬 Ai 양자화 모델성능 근황
대장여
전과없음
2014.05.26가입
조회 1,985
추천 15
2026.06.27 (토) 22:01
이번에 엔비디아에서 공식적으로 양자화 했는데 메모리 사용량을 대폭 줄이면서도 성능은 유지하게 만들어 소비자들도 쉽게 사용할 수 있도록 만듦 거의 원본수준의 성능이 나오는데 메모리 사용량은 대폭 줄어듦 집에 굴러다니는 B200 4장만 있으면 사용가능
이번에 엔비디아에서 공식적으로 양자화 했는데
메모리 사용량을 대폭 줄이면서도
성능은 유지하게 만들어
소비자들도 쉽게 사용할 수 있도록 만듦
거의 원본수준의 성능이 나오는데
메모리 사용량은 대폭 줄어듦
집에 굴러다니는
B200 4장만 있으면 사용가능
댓글 4
무이지요
2026.06.27 22:01:20
리올논
2026.06.27 22:01:26
홈극강첼시
2026.06.27 22:01:33
밝히는그대
2026.06.27 22:01:40
이런 경우 법적으로 문제가 없나요? [3]
피콜로 더듬이 빠는 소리의 시각화 [2]
주님 곁으로 가는 방법 [2]
로또 제발!!!! [0]
캠핑카 소유자들의 하소연 [3]
방송태도 레전드로 불린다는 아침마당 샘해밍턴 부자편 [0]
좀비겜 레즈 키스장면 레전드... [4]
쏘니는 내 사촌, DNA 가계도 공개 ㄷㄷㄷ [1]
"전남친이 나 버리고 국결했어요"... 40세 여자 사연 [2]
오늘의 날씨 2026년 8월 1일 토요일 (한마디로 개 덥다 에어컨 없음 뒤진다.) [0]
번따노트 [0]
홀란드 욕쳐먹은이유 [1]
해외캠핑족에게 의외로 인기인 물건 [0]
저탄수 제로 피자.pizza ㅎㄷㄷㄷ [4]
오늘의 운세 [0]
어깨가 아파서 정형외과에 간 헬창 [1]
정치에 대해 일침한 더쿠유저 [3]
프로맞아? [0]
틈새 [0]
정중하게 무례함 [0]
