之前@jht5132 t提到2bit量化大模型我突然想到苹果的gpu相对AMD和Nvidia特别不擅长叫IQ的量化方法，具体讨论见下图。
结果今天顺手试了下M3一点事也没有，iq2xs比q4_0快不少，和M2形成鲜明对比
结果今天顺手试了下M3一点事也没有，iq2xs比q4_0快不少，和M2形成鲜明对比
高通吧 关注：170,909贴子：4,082,600
- 0回复贴，共1页
扫二维码下载贴吧客户端
下载贴吧APP
看高清直播、视频！
看高清直播、视频！
贴吧热议榜
- 1历届S赛冠军队伍排行2368260
- 2S14主题曲MV发布2067091
- 3炉石传说补偿玩家卡牌1657824
- 4IGN中国独立运营与总部无关1655316
- 5怪猎荒野2月28日发售1424228
- 6电锯人178话 战争的破坏力1205450
- 7商竣程首夺ATP巡回赛冠军1205400
- 8S赛历届fmvp选手谁最强1020694
- 9黑神话IGN年度投票支持率暴跌997986
- 10炉石传说国服回归766710
