현재 난리났다는 로컬 Ai 양자화 모델성능 근황
대장여
전과없음
2014.05.26가입
조회 1,707
추천 15
2026.06.27 (토) 22:01
이번에 엔비디아에서 공식적으로 양자화 했는데 메모리 사용량을 대폭 줄이면서도 성능은 유지하게 만들어 소비자들도 쉽게 사용할 수 있도록 만듦 거의 원본수준의 성능이 나오는데 메모리 사용량은 대폭 줄어듦 집에 굴러다니는 B200 4장만 있으면 사용가능
이번에 엔비디아에서 공식적으로 양자화 했는데
메모리 사용량을 대폭 줄이면서도
성능은 유지하게 만들어
소비자들도 쉽게 사용할 수 있도록 만듦
거의 원본수준의 성능이 나오는데
메모리 사용량은 대폭 줄어듦
집에 굴러다니는
B200 4장만 있으면 사용가능
댓글 4
무이지요
2026.06.27 22:01:20
리올논
2026.06.27 22:01:26
홈극강첼시
2026.06.27 22:01:33
밝히는그대
2026.06.27 22:01:40
협회가 홍명보 욕받이로 쓴다는 소리도있는데 [0]
월드컵으로 보는 은근 축구 못하는 나라들 ㄷㄷ [3]
최근 트위터 한국인들을 보고 슬퍼하는 일본인 [3]
여긴어디? 나는누구? [0]
우퍼스피커 메뉴얼 [0]
그냥 이게 제일 문제였음 ㅋㅋㅋㅋㅋㅋ [3]
이연복인줄.. [0]
나는 16강갔는데!! [0]
고층아파트 엘베버튼 [0]
장애인체육대회 점심수준 [1]
홈캠으로 훔쳐보는거 다 알고있다 [0]
여름되면 항상 생각나는 인터뷰 [0]
회사 사무실에 쥐가 나왔길래 [1]
대한민국 업적 [0]
홍명보 거리 퍼레이드 [0]
수상한 남자 [1]
고소가 불가능한 모욕 [0]
아들의 외모를 칭찬한 17년 친구와 손절한 이유 [0]
암컷시바와 수컷시바 구별법 [0]
임차인들 기강 잡는 집주인 [0]
