현재 난리났다는 로컬 Ai 양자화 모델성능 근황
대장여
전과없음
2014.05.26가입
조회 1,975
추천 15
2026.06.27 (토) 22:01
이번에 엔비디아에서 공식적으로 양자화 했는데 메모리 사용량을 대폭 줄이면서도 성능은 유지하게 만들어 소비자들도 쉽게 사용할 수 있도록 만듦 거의 원본수준의 성능이 나오는데 메모리 사용량은 대폭 줄어듦 집에 굴러다니는 B200 4장만 있으면 사용가능
이번에 엔비디아에서 공식적으로 양자화 했는데
메모리 사용량을 대폭 줄이면서도
성능은 유지하게 만들어
소비자들도 쉽게 사용할 수 있도록 만듦
거의 원본수준의 성능이 나오는데
메모리 사용량은 대폭 줄어듦
집에 굴러다니는
B200 4장만 있으면 사용가능
댓글 4
무이지요
2026.06.27 22:01:20
리올논
2026.06.27 22:01:26
홈극강첼시
2026.06.27 22:01:33
밝히는그대
2026.06.27 22:01:40
내 인생업적 with goat [3]
뻥글 4 : 0 랑스 [0]
축구 황제 유니폼 73억원 낙찰 [3]
신혼 이혼이 급증하는 이유 [0]
2026년 남자아이돌 콘서트 예매 연령대.성비 [3]
몰락하는 프랑스 와인 [0]
직원이 아내를 성폭행 했어요 [0]
북한 스마트폰 근황 [0]
회가 나오는 12000원 한식 뷔페 [3]
여자 육상 경기 중계 새로운 가이드라인 [0]
벼랑 끝 신생아 중환자 실 [0]
한국인 30명중 1명이 마진콜 [0]
카리나가 말하는 자신의 신체적 단점 [0]
다시보는 손흥민 중국회사 nft 홍보 ㄷㄷㄷㄷ [4]
여초 발작버튼 누른 풍자 [0]
요새는 한글도 읽는다는 왜가리 [3]
요번주 로또1등은 31명이나되네 [0]
화를 참는 사람 뇌 vs 화를 내는 사람 뇌 [3]
날이선선 [0]
잔잔하네여 새벽 [0]
