苹果评估PrismML 1比特量化技术,实现27B大模型iPhone本地运行
[探索] 时间:2026-07-17 11:59:36 来源:广知资讯网 作者:探索 点击:137次
苹果公司正对人工智能初创公司 PrismML 开发的苹果评估模型量化技术进行深度评估。该技术能够将大型语言模型(LLM)所需的比e本内存资源从约 54GB 大幅压缩至 4GB 以内,为端侧部署提供关键支持。特量
PrismML 的化技核心突破在于其原生 1-bit 模型压缩方案,可将模型体积缩减至全精度版本的术实约七分之一,内存占用降低超过 90%。现B型i行在精度保持上,大模地运压缩后的苹果评估模型性能接近半精度浮点数(FP16)水平,同时显著提升了推理速度并降低了设备功耗。比e本
近期,特量PrismML 正式发布了 Bonsai 27B 模型。化技该模型基于 Qwen 3.6 27B 架构进行优化微调,术实在保留原模型约 90% 智能水平的现B型i行前提下,已成功实现在配备 12GB 运行内存的大模地运 iPhone 15 及后续机型上本地部署,完整运行拥有 270 亿参数的苹果评估语言模型。
(责任编辑:综合)
相关内容
- “萌兰”搬新家 北京动物园大熊猫新馆将迎客
- 千问大模型升级实时语音识别大模型Fun-ASR-Realtime 支持30种语言+16种方言
- 高德AI专车管家再升级:自然语言交互实现个性化出行服务
- 六蓝水库这次险情,不叫坍塌不叫决堤,只能叫局部溃坝
- 当28岁侯明昊遇上18岁艾米,我才终于明白,为何说CP感是门玄学
- 挪威中场:不意外巴西控球率创新低;我们能与任何队抗衡
- 没想到,她竟然塌房了……
- 向新向优、再创新高!我国多领域发布亮眼“成绩单”
- 人类诱导多能干细胞全基因组功能图谱绘成
- 光模块龙头,融资客大幅加仓,A股第一
- 广西防城港严重内涝,一男子为送孩子就医将其放入塑料桶中,在齐脖深积水中推行,目击者:眼看就要倾覆,侄子跳入水中将二人护送至水浅处
- 3-2险胜!世界杯疯狂一战:1红牌+2点球,英格兰10人苦战晋级8强
- 一对中国夫妇在印尼浮潜时溺亡:下水未穿救生衣,遇巨浪被卷走,水下救援画面曝光
- 谷歌升级Google Cloud机密计算产品
精彩推荐
- 《哪吒 2》之后最像《哪吒》的电影出现了!很多人猜它即将大爆?
- 视频丨今年上半年 国家铁路累计完成货物发送量20.15亿吨
- 众星告别《爱情有烟火》,檀健次言简意赅,王楚然祝大家收获幸福
- Meta被曝向竞争对手AI投毒
- Redmi Note 17 Pro发布:60个月流畅承诺、AI反诈防护与IP69K全防护旗舰
- 专家解读:如何实现国产算力自主可控?
热门点击
- 法“拦”西失败,西班牙每次都能给法国队上一课 views+
- OPPO携手支付宝推出多智能体协同服务,实现全场景语音一键办事 views+
- 消息称英特尔多数Nova Lake处理器生产转回自家18A工艺晶圆厂 views+
- 昆凌发文为大女儿海瑟薇庆生:曾经的小女孩已长成暖心大姐姐 views+
- 里斯蒂奇:祝贺浙江取胜,战术方面我们比对手要表现得更好 views+
- 美国国家公路交通安全管理局:丰田将在美召回5400辆汽车 views+
- Redmi Note 17 Pro发布:60个月流畅承诺、AI反诈防护与IP69K全防护旗舰 views+
- (两岸新发现)台青探访厦门沙坡尾:同源一脉连两岸(视频) views+
- 特朗普紧急开会讨论升级战争!美军连炸7小时,伊朗矿泉水厂、发电设施、环保站遭袭!伊方:中东能源出口要么惠及各方,要么谁也别想出口 views+
- 还原蒋方舟论文风波:“新线索”到底是什么? views+
