内容持续更新中
“瘦身”依旧很惊艳 编者按: “瘦身”后的大模型,表现依然可以很惊艳。 本文介绍了可提升大语言模型的训练后量化表现的增强型 SmoothQuant 技术,说明了这项技术的用法,并证明了其在准确率方面的…
唯一致力于硅量子比特的公司 金磊 发自 美国圣何塞 量子位 | 公众号 QbitAI “关键在于质量,而不是数量。” 这就是芯片巨头英特尔研究院院长Rich Uhlig,在Innovation 202…
今天是10月28日星期五 日报君 发自 凹非寺 量子位 | 公众号 QbitAI 盆友们!周五啦,准备好周末去哪里玩了嘛~ 不过别着急,先来看看今天科技圈发生了哪些大事? 苹果第四季度iPhone收入…
GPU之外的另一种解法 编者按:小小一行代码,也有大力量。 大语言模型的应用与微调优化必要性 ChatGPT 的横空出世开启了大语言模型 (LLM) 的普及元年,BERT、GPT-4、ChatGLM …
芯速度,让AI无处不在 金磊 发自 凹非寺 量子位 | 公众号 QbitAI 什么样的技术能经历时间洗礼还历久弥新? 答案或许可以归总为一个“三部曲”般的规律——兴起、发展和大规模应用,外加这个过程再…
欲进一步抢夺英伟达AMD市场。 詹士 发自 凹非寺 量子位 | 公众号 QbitAI 显卡江湖又起波澜。 当地时间12月21日,英特尔发布一份声明,拆分将原先图形硬件部门(AXG)一分为二。 一部分专…
LLM 与 TEE 的融合 编者按:大模型的爆火,也对隐私和安全发起了挑战。 1. 可信执行环境是什么?大语言模型为什么需要它? OpenAI 的 GPT 系列大语言模型(Large Language…
满足LLM更多场景应用需求 作者:英特尔公司 沈海豪、罗屿、孟恒宇、董波、林俊 编者按: 只需不到9行代码,就能在CPU上实现出色的LLM推理性能。英特尔® Extension for Transfo…
市值一夜蒸发500多亿人民币 羿阁 鱼羊 发自 凹非寺 量子位 | 公众号 QbitAI 英特尔陷入悲惨世界。 2022年第四季度财报一出,全球芯片巨头英特尔“遇灾”实锤了: 第四季度营收一口气跌了1…
本文提供了一种使用 OpenVINO™ opset 重构该模型架构的便捷方法。 本文作者:赵桢、罗成、李亭骞、邹文艺 引言 自大语言模型 (LLM) 成为热点话题以来,涌现了一大批中文大语言模型并在优…