K2-上海交通大学
手机扫我访问

K2-上海交通大学

地球科学的开源大预言模型,首先在收集和清理过的地球科学文献(包括地球科学开放存取论文和维基百科页面)上对 LLaMA 进行进一步预训练,然后使用知识密集型指令调整数据(GeoSig...

网址标签:
K2是一个地球科学的开源大预言模型。首先通过收集和清理的地球科学文献(包括地球科学开放获取论文和维基百科页面)对LLaMA进行进一步预训练,然后使用知识密集型指令调优数据(GeoSignal)。

初步评估采用GeoBenchmark(由NPEE和APTestonGeology、Geography、EnvironmentalScience组成)作为基准。与具有相似参数的几个基线模型相比,K2在客观和主观任务上的表现优于基线。

我们介绍K2(7B),它是一个开源语言模型,首先在收集和清理过的地球科学文献(包括地球科学开放存取论文和维基百科页面)上对LLaMA进行进一步预训练,然后使用知识密集型指令调整数据(GeoSignal)进行微调。在初步评估中,我们使用GeoBench(由NPEE和关于地质学、地理学和环境科学的AP测试组成)作为基准。与参数相似的几个基准模型相比,K2在客观和主观任务上的表现都优于基准模型。在该资源库中,我们将共享以下代码和数据。

    暂无评论...
    贡献者

    阿力
    阿力

    共发布1682个产品

    去看看
    产品评分

    目前还没有人对该AI工具打分哦~