内容持续更新中
最Intel的创新解决方案 金磊 发自 凹非寺 量子位 | 公众号 QbitAI “in”,是近年来兴起的一个网络用语,通常是in fashion的简称,意指走在潮流最前沿。 随着GPT的爆火,生成式…
Habana® Gaudi®2了解一下 编者按:本文作者是 Hugging Face 的机器学习工程师 Régis Pierrard,并于 2023 年 3 月 28 日发布于Hugging Face…
本文提供了一种使用 OpenVINO™ opset 重构该模型架构的便捷方法。 本文作者:赵桢、罗成、李亭骞、邹文艺 引言 自大语言模型 (LLM) 成为热点话题以来,涌现了一大批中文大语言模型并在优…
LLM 与 TEE 的融合 编者按:大模型的爆火,也对隐私和安全发起了挑战。 1. 可信执行环境是什么?大语言模型为什么需要它? OpenAI 的 GPT 系列大语言模型(Large Language…
GPU之外的另一种解法 编者按:小小一行代码,也有大力量。 大语言模型的应用与微调优化必要性 ChatGPT 的横空出世开启了大语言模型 (LLM) 的普及元年,BERT、GPT-4、ChatGLM …
“瘦身”依旧很惊艳 编者按: “瘦身”后的大模型,表现依然可以很惊艳。 本文介绍了可提升大语言模型的训练后量化表现的增强型 SmoothQuant 技术,说明了这项技术的用法,并证明了其在准确率方面的…
“炼丹”的另一种选择 今日,英特尔AI产品战略暨Gaudi2新品发布会在京举行。 会上,英特尔正式于中国市场推出第二代Gaudi深度学习加速器——Habana® Gaudi®2。 作为英特尔从云到端产…
大模型时代之下,CPU或许还真是OCR落地的一种新解法 金磊 杨净 发自 凹非寺 量子位 | 公众号 QbitAI 经典技术OCR(光学字符识别),在大模型时代下要“变味”了。 怎么说? 我们都知道O…
金磊 杨净 发自 凹非寺 量子位 | 公众号 QbitAI AI模型的推理在CPU上完成加速和优化,竟然不输传统方案? 至少在生命科学和医疗制药方向,已经透露出这种信号。 例如在处理AlphaFold…
AI驱动的生命科学与医药创新 近年来,利用AI技术驱动业务创新与发展已经成为行业共识。2021年,DeepMind发布了AlphaFold2,凭借自身在蛋白质结构预测上的高可信度,以及远优于传统实验方…