蚂蚁集团发布金融大语言模型,推动金融行业智能化

经纪商动态·更多 蚂蚁集团 报道

·阅读约 5 分钟

字号
蚂蚁集团发布金融大语言模型,推动金融行业智能化

背景概述

根据 黄金形态通APP 报道,蚂蚁集团(Ant Group)于2023年9月8日在2023外滩大会(INCLUSION·Conference on the Bund)上发布了其金融大语言模型(Financial Large Language Model)。该模型旨在为金融行业提供专业化的AI服务,标志着蚂蚁集团在金融科技领域的一次重要布局。

关键要点

蚂蚁集团金融大语言模型的核心特点包括:

  • 训练数据:基于数百亿包含中文金融文档的token数据集,以及超过1万亿token的通用语料数据集进行训练。
  • 指令微调:利用来自300多个真实行业用例的超过60万条指令数据集,显著优化了模型在金融特定任务上的能力。
  • 技术基础:基于蚂蚁集团自研的通用大语言模型进行微调,该通用模型在计算效率上具有优势,例如采用异构硬件集群支持多达一万个不同种类的GPU,千卡模型浮点运算利用率(MFU)达到40%。
  • 性能提升:在模型性能一致的情况下,基于人类反馈的强化学习(RLHF)训练吞吐量提升了3.59倍,推理性能相比现有行业基准提升了约2倍。

影响解读

蚂蚁集团金融大语言模型的发布,预计将对金融行业产生多方面影响:

  • 提升服务效率:该模型能够支持财富管理(如金融产品评估、市场分析、投资者教育)和保险服务(如解释保险产品、制定家庭保险计划、验证保险理赔)等专业服务,有望提高金融机构的运营效率和服务质量。
  • 推动行业智能化:通过开源AI编码平台CodeFuse和金融AI任务基准Fin-Eval,蚂蚁集团旨在促进金融行业大语言模型的产业创新,加速行业智能化转型。
  • 技术挑战与门槛:蚂蚁集团副总裁王晓航(Wang Xiaohang)指出,通用大语言模型难以直接应用于特定行业,金融大语言模型需要具备语言能力、领域知识、专业能力和安全能力,这些是开发金融大语言模型的关键挑战。

关键对比

以下是蚂蚁集团通用大语言模型与现有行业基准的性能对比:

指标蚂蚁集团通用大模型现有行业基准
RLHF训练吞吐量提升3.59倍基准
推理性能提升约2倍基准
千卡MFU40%未提供

注:对比数据基于模型性能一致的条件。

未来展望

展望未来,蚂蚁集团计划与中国市场的金融机构合作,将其金融大语言模型应用于所有数字金融服务中。此外,蚂蚁集团还开源了AI编码平台CodeFuse,并向公众提供了金融特定AI任务基准Fin-Eval,以促进金融行业大语言模型的产业创新。这些举措有望推动金融行业的技术进步和生态建设。

编辑总结

蚂蚁集团金融大语言模型的发布是金融科技领域的一项重要进展。该模型基于大规模金融和通用数据训练,并通过大量行业指令微调,在财富管理和保险服务等场景中展现出应用潜力。其技术架构和性能优化为行业提供了参考,而开源举措和基准发布则有助于推动行业协作与创新。未来,该模型在金融机构中的实际应用效果值得关注。

常见问题解答

问题:蚂蚁集团金融大语言模型是什么?

回答:蚂蚁集团金融大语言模型是蚂蚁集团于2023年9月8日发布的一款专门针对金融行业的大语言模型,基于其自研通用大模型微调,训练数据包含数百亿金融文档token和超万亿通用token,并利用超60万条指令优化金融任务能力。

问题:该模型有哪些主要应用场景?

回答:该模型可应用于财富管理(如金融产品评估、市场分析、投资者教育)和保险服务(如解释保险产品、制定家庭保险计划、验证保险理赔)等专业服务。

问题:蚂蚁集团金融大语言模型的技术优势是什么?

回答:其技术优势包括:基于异构硬件集群支持万卡GPU,千卡MFU达40%;RLHF训练吞吐量提升3.59倍,推理性能提升约2倍;以及利用大量金融行业指令进行微调,优化金融特定任务能力。

问题:蚂蚁集团在发布金融大语言模型的同时还做了什么?

回答:蚂蚁集团还开源了AI编码平台CodeFuse,并向公众提供了金融特定AI任务基准Fin-Eval,以促进金融行业大语言模型的产业创新。

问题:蚂蚁集团对金融大语言模型的未来计划是什么?

回答:蚂蚁集团计划与中国市场的金融机构合作,将其金融大语言模型应用于所有数字金融服务中,推动金融行业智能化转型。