跳到主要内容
返回时间线
Preferred Networks来源发表:

PFN公开金融特化小模型PLaMo 3.0 Fin:开放权重,单张GPU即可在闭域环境运行

核心概要

Preferred Networks 以与 NICT 共同研究得到的预训练模型 PLaMo 3 NICT 为基础,用日本金融领域数据追加学习,公开了金融特化小规模语言模型 PLaMo 3.0 Fin 的开放权重。该模型面向金融机构实务,具备先推理再作答的 Reasoning 功能并以日语输出推理过程,还能调用网页搜索、计算和内部数据库等外部工具。小型化使其在云端闭域或本地环境中从单张 GPU 起即可运行,并以 AI 智能体核心模型的形态用于问询分类、单据信息抽取和告警分析等业务。

AI-generated editorial illustration: 国産の金融特化型小規模言語モデルPLaMo 3.0 Finをオープンウェイトで公開

深度剖析

金融机构的日常事务、监控、客户管理和问询应答存在大量处理需求,其中不少要求快速响应;若全部交给大模型,使用成本会上升,性价比可能不划算。 此前金融机构要在实务中引入生成式 AI,除金融专业知识外,还需应对日本商业习惯与制度、金融机构特有术语和业务流程,并在能处理客户信息与交易数据等高机密信息的闭域环境中高效运行。 PLaMo 3.0 Fin 以 PFN 与 NICT 共同研究获得的预训练模型 PLaMo 3 NICT 为基础,由 PFN 用日本金融领域数据追加学习,并以开放权重在 Hugging Face 上按 PLaMo 社区许可证公开。

模型被定位为承担金融机构部分业务流程的 AI 智能体的核心模型,具备先推理再回答的 Reasoning 功能,推理过程以日语输出,便于核对回答依据。 模型还加入调用外部工具的功能,可进行最新信息的网页搜索、计算和参照内部数据库。 小型模型可高速运行,因此在云端闭域环境和本地环境中都能从单张 GPU 起运用;公开的开放权重模型名为 plamo-3-8b-fin-instruct。

PLaMo 3.0 Fin 的事后学习中,面向 Reasoning 与工具使用的指令跟随学习在 PFN 自研 AI 半导体 MN-Core 2 上完成。 要让更多开发者使用自研 AI 半导体,需要在不牺牲硬件性能的前提下降低程序移植所需的专业知识和开发负担。 PFN 以编码智能体为核心的新移植方法,使不具备 MN-Core 2 深厚专业知识的开发者也能在 1 周以内完成指令跟随学习代码的移植,包括多板分布式学习的适配;移植后训练达到与 GPU 学习环境同等的实用学习速度。

启示与展望

公开范围是金融特化小规模语言模型的开放权重、API 与 Chat(β 版)免费计划,以及面向各金融机构的专用模型构建服务;后者自 2025 年 6 月起提供。材料面向考虑在闭域或本地环境部署生成式 AI 的金融机构与开发者,未给出金融业务上的量化评测结果。

API 与 Chat(β 版)设有使用量上限,提供内容可能不经预告变更或终止,且不保证可用率等服务级别;演示输出仅为示例,同一输入也可能得到不同结果。