현재 난리났다는 로컬 Ai 양자화 모델성능 근황
대장여
전과없음
2014.05.26가입
조회 1,765
추천 15
2026.06.27 (토) 22:01
이번에 엔비디아에서 공식적으로 양자화 했는데 메모리 사용량을 대폭 줄이면서도 성능은 유지하게 만들어 소비자들도 쉽게 사용할 수 있도록 만듦 거의 원본수준의 성능이 나오는데 메모리 사용량은 대폭 줄어듦 집에 굴러다니는 B200 4장만 있으면 사용가능
이번에 엔비디아에서 공식적으로 양자화 했는데
메모리 사용량을 대폭 줄이면서도
성능은 유지하게 만들어
소비자들도 쉽게 사용할 수 있도록 만듦
거의 원본수준의 성능이 나오는데
메모리 사용량은 대폭 줄어듦
집에 굴러다니는
B200 4장만 있으면 사용가능
댓글 4
무이지요
2026.06.27 22:01:20
리올논
2026.06.27 22:01:26
홈극강첼시
2026.06.27 22:01:33
밝히는그대
2026.06.27 22:01:40
임차인들 기강 잡는 집주인 [0]
숨기는게 불가능한 압도적인 '부 [0]
매점에서 10억 쓴 학생 [0]
보건소 의사 일급 100만원 [0]
맹봌ㅋㅋㅋ [0]
낼 [0]
21세기에 욕을 바가지로 먹은 대회는 딱 2대회임 [3]
둘중에 축구서적 고트가 뭐임? [3]
왜노자 김치찌개 [1]
대한민국 역대 FIFA 월드컵 성적 [4]
미쳐버린 골반 크기 [4]
내가 발견한 산삼 [3]
근데 안정환은 뭐 됨? [3]
도쿄에서의 일본 가정식 [2]
정상화 되고 있는 한국축구협회 [3]
오늘의 운세, 6월 28일 일요일 [0]
이 말이 이제서야 이해가 간다 ㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋ [4]
현재 난리난 2년전 한국축구 개혁방안 ㄷㄷ [4]
당장 반년뒤에 일어날 예고된 재앙 [3]
아점 떡만두국 [1]
