内容持续更新中
支持输入的长文本达20万字,全球最长 衡宇 发自 凹非寺 量子位 | 公众号 QbitAI 千亿参数大模型,支持输入的长文本首次达20万x字! 在任何规模的大模型产品化队伍中,这个长度堪称目前的全球最…
发掘上下文长度提升规律 萧箫 发自 凹非寺 量子位 | 公众号 QbitAI 只需微调一下,大模型支持上下文大小就能从1.6万tokens延长至100万?! 还是在只有70亿参数的LLaMA 2上。 …