马上消费人工智能研究院院长陆全：大模型商业化落地技术治理需把握“五个大方向”lg...

3月28日，在中国计算机学会（CCF）数字金融分会、重庆市大数据应用发展管理局、上海金融与发展实验室指导下，马上消费联合中国科学技术出版社、金融界共同举办“大模型驱动下的金融新质生产力创新论坛暨全国首部《金融大模型》著作发布”活动。

本次活动云集了包括蒋昌俊、孙茂松、曾刚在内的学界专家、金融机构、科技从业者近300人，共议大模型实践应用及产业赋能，共研金融新质生产力发展趋势，以实际行动践行金融强国战略，奋力做好五篇大文章。

现场，马上消费人工智能研究院院长陆全围绕《“天镜”金融领域系列大模型企业落地的应用实践》主题进行主旨分享。他指出，大模型存在潜在风险，在金融领域商业化、全面工程化落地，仍需从一开始做好五大方向的技术治理，即安全体系、标准体系、合规检查、幻觉检测、动态评价机制。

陆全表示，目前国内大模型正加速商业化落地，通用基础类大模型与行业领域类大模型参与者在各自赛道中寻找最优解。

马上消费的金融行业大模型“天镜”推出以来，展示了出色的上下文理解和引导式对话能力。在企业知识库的应用中，知识产出效率提升了150%，大幅度提高营销物料的生产效率。在与重庆某银行的合作中，大模型驱动的智能营销能将人工成本降低80%以上，产能是传统人工产能的6倍以上。

2024年2月，“天镜”大模型通过了中国信通院金融大模型专项评测，在场景丰富度、能力发挥度、应用成熟度三方面均达到4+级，排名第一。马上消费的生成式AI技术应用不仅局限于金融，还覆盖了数字人、HR、培训等多个场景。这种全面性的应用为企业内外提供了智能化服务，体现了其在技术创新上的深度拓展。

“大模型技术应用在金融领域的迅速发展，与马上消费长期聚焦行业领域特性，基于“3H”理念有序推进金融大模型应用密不可分。”陆全解释说，大模型有序应用的“3H”理念包括：有用（Helpfulness），模型的分类、信息抽取、阅读理解、数据分析等能力性能表现优异；无害（Harmless），输出应用符合道德伦理、法律规范等；诚实（Honest），输出可靠、符合事实和规则。

《少数派报告》是一部科技圈人尽皆知的科幻悬疑电影。它讲述的是，随着未来科技的发展，人类利用具有感知未来的超能力人——“先知”，它能结合人的行为和心里特征侦查出人的潜在犯罪企图，所以在犯罪之前，嫌疑人就已经被犯罪预防部门组织逮捕，从而“完美”避免了犯罪。电影的核心冲突来自一次意外——“先知”产生“幻觉”后做出错误预判，导致了犯罪的真实发生。

这与大模型利用大量人工合成数据预训练及微调、迭代后，仍会产生“幻觉”的“现实”何其相似。由此带来一个警示，当下如何尽量避免大模型因幻觉导致使用人“犯罪”？

陆全在演讲中也给出了答案。他认为，目前通用大模型尚存在较大的潜在安全可信威胁，“敏捷治理”已成为业界一大课题，我们需从一开始做好五大方向的技术治理，即安全体系、标准体系、合规检查、幻觉检测、动态评价机制。行业领域大模型可限定在金融等具体场景，明确金融行业和具体场景的限制条件，相比通用场景，细分场景的规则更明确、数据质量更高、标准较易统一。同时，行业领域大模型为了确保安全合规，甚至不惜损失部分性能表现，如限制大模型只在给定的文档内容的范围内生成知识内容。

“不论企业最终选择哪一条赛道，大模型的发展都需要集聚同业及生态伙伴力量，加快建设大模型科创新高地、场景应用新高地、生态合作新高地，势在必行。”他说。