邮发代号 2-786
征订热线：010-82341063
当前，人工智能大模型正在逐步影响各行各业，金融领域也不例外。
根据英伟达发布的针对近400家金融机构的调研结果，43%的金融机构已开始使用大模型。麦肯锡2024年的调研数据显示，金融行业从业者反馈“在工作中常规使用大模型”“在生活中常规使用大模型”和“在工作和生活中均常规使用大模型”的数量占比已达到48%。据麦肯锡测算，大模型有望给全球金融行业带来每年2500亿美元至4100亿美元的增量价值。这些数据无疑为大模型在金融领域的进一步应用描绘了光明的前景。
然而，随着大模型的广泛应用，一些新风险也逐渐显露出来，一旦应对不当，可能对金融行业构成严峻的挑战。
首先，大模型的进一步推广可能会加剧金融行业的“两极分化”。由于技术投入、业务禀赋和人力资源等方面的差异，一些头部金融机构在大模型展现的能力上开始显现出明显优势。相比之下，中小机构受限于资金预算约束、相对有限的业务规模和专业人才资源，与头部机构之间的差距将被逐渐拉大，呈现出“强者愈强，弱者愈弱”的趋势。从行业整体来看，金融行业原本就具有信息数据密集、人才智力密集等特点，大模型的推广应用可能导致金融行业资源进一步集中。
其次，目前大模型本身存在的缺陷也可能给金融系统带来安全风险。大模型仍存在专业能力有限、生成结果不可控、算法可解释性较差等问题，当前在合规性和适当性等方面仍缺乏保障。一旦训练数据不完备或质量较差，可能会生成低质量的错误内容，导致结果不可用，甚至误导金融机构和金融消费者的判断和决策。在模型可解释性方面，大模型的复杂程度较高，使得内容生成的结果和过程难以被清晰地解释，产生“黑箱”问题，导致金融机构难以在事前、事中、事后进行有效的风险溯源和管理。此外，考虑到大模型基于海量数据进行训练，若底层数据本身存在偏见和歧视，可能会导致大模型内容输出、决策生成方面存在偏见，进而导致金融服务存在歧视性定价等风险。
最后，金融机构对少数大型科技公司提供的基座大模型的依赖可能形成新的风险点。考虑到基座大模型通常与部分大型科技公司云业务捆绑销售，这可能进一步加大金融机构对少数第三方的依赖，加大相关技术服务商对金融系统的潜在影响力。一旦服务商的运营出现问题或系统出现故障，将对金融系统的稳定造成严重影响。
当前，大模型的深入应用对金融监管提出了更高要求，现实中如何既鼓励创新，又确保金融行业的健康稳定发展，已成为金融监管部门的重要议题。只有防患于未然，在深刻认识大模型的特点并妥善应对这些风险的基础上，才能推动金融大模型更好发挥作用，促进金融业高质量发展。
（来源：经济日报）
分享网络安全知识 强化网络安全意识
欢迎关注《中国信息安全》杂志官方抖音号
原文始发于微信公众号（中国信息安全）：观点 | 谨防金融大模型应用风险
免责声明:文章中涉及的程序(方法)可能带有攻击性，仅供安全研究与教学之用，读者将其信息做其他用途，由读者承担全部法律及连带责任，本站不承担任何法律及连带责任；如有问题可邮件联系(建议使用企业邮箱或有效邮箱,避免邮件被拦截，联系方式见首页)，望知悉。
点赞
https://cn-sec.com/archives/3468526.html
复制链接
复制链接
-
左青龙
- 微信扫一扫
-
-
右白虎
- 微信扫一扫
-
评论