谨防金融大模型应用风险
时间:2024-11-20 19:02:10来源:经济日报

 当前,人工智能大模型正在逐步影响各行各业,金融领域也不例外。

  根据英伟达发布的针对近400家金融机构的调研结果,43%的金融机构已开始使用大模型。麦肯锡2024年的调研数据显示,金融行业从业者反馈“在工作中常规使用大模型”“在生活中常规使用大模型”和“在工作和生活中均常规使用大模型”的数量占比已达到48%。据麦肯锡测算,大模型有望给全球金融行业带来每年2500亿美元至4100亿美元的增量价值。这些数据无疑为大模型在金融领域的进一步应用描绘了光明的前景。

  然而,随着大模型的广泛应用,一些新风险也逐渐显露出来,一旦应对不当,可能对金融行业构成严峻的挑战。

  首先,大模型的进一步推广可能会加剧金融行业的“两极分化”。由于技术投入、业务禀赋和人力资源等方面的差异,一些头部金融机构在大模型展现的能力上开始显现出明显优势。相比之下,中小机构受限于资金预算约束、相对有限的业务规模和专业人才资源,与头部机构之间的差距将被逐渐拉大,呈现出“强者愈强,弱者愈弱”的趋势。从行业整体来看,金融行业原本就具有信息数据密集、人才智力密集等特点,大模型的推广应用可能导致金融行业资源进一步集中。

  其次,目前大模型本身存在的缺陷也可能给金融系统带来安全风险。大模型仍存在专业能力有限、生成结果不可控、算法可解释性较差等问题,当前在合规性和适当性等方面仍缺乏保障。一旦训练数据不完备或质量较差,可能会生成低质量的错误内容,导致结果不可用,甚至误导金融机构和金融消费者的判断和决策。在模型可解释性方面,大模型的复杂程度较高,使得内容生成的结果和过程难以被清晰地解释,产生“黑箱”问题,导致金融机构难以在事前、事中、事后进行有效的风险溯源和管理。此外,考虑到大模型基于海量数据进行训练,若底层数据本身存在偏见和歧视,可能会导致大模型内容输出、决策生成方面存在偏见,进而导致金融服务存在歧视性定价等风险。

  最后,金融机构对少数大型科技公司提供的基座大模型的依赖可能形成新的风险点。考虑到基座大模型通常与部分大型科技公司云业务捆绑销售,这可能进一步加大金融机构对少数第三方的依赖,加大相关技术服务商对金融系统的潜在影响力。一旦服务商的运营出现问题或系统出现故障,将对金融系统的稳定造成严重影响。

  当前,大模型的深入应用对金融监管提出了更高要求,现实中如何既鼓励创新,又确保金融行业的健康稳定发展,已成为金融监管部门的重要议题。只有防患于未然,在深刻认识大模型的特点并妥善应对这些风险的基础上,才能推动金融大模型更好发挥作用,促进金融业高质量发展。

标签:

  • 上一篇文章: 青海电网新能源出力今年创7次新高
  • 下一篇文章: 最后一页
  • 最新
  • 谨防金融大模型应用风险

     当前,人工智能大模型正在逐步影响各行各业,金融领域也不例

  • 青海电网新能源出力今年创7次新高

    中新社西宁11月14日电 (常秉玉 李江宁)据中国国家电网有限公司(以

  • 罪魁祸首的意思是什么?世风日下人心不古下一句是什么?

    罪魁祸首的意思是什么?罪魁祸首,成语读音为:zuìkuí

  • 国货美妆如何乘抗衰“东风”?

    艾媒咨询数据显示,2023年中国化妆品行业市场规模为5169 0亿元,同

  • (进博故事)全球亮相!《进博故事》中英文版图书即将“上新”!

    中新网上海11月3日电 第七届中国国际进口博览会的大幕即将徐徐拉开

  • 企稳回暖 消费电子行业多公司三季度业绩改善

    随着消费电子市场逐渐企稳复苏,行业内上市公司三季报纷纷报喜,多

  • 沿黄省(区)国资国企“同向发力”奏“合唱”

    中新网东营10月23日电(记者 沙见龙)10月23日,沿黄九省(区)国资委

  • 世界微头条丨邓州市人社局:邓州市博士后创新实践基地喜添新成员

    喜讯!经河南省人力资源和社会保障厅备案同意:邓州市人民医院设立为20

  • 杭州网红菜市场成年轻人假期热门打卡地 当前速递

    中新社杭州10月5日电 题:杭州网红菜市场成年轻人假期热门打卡地作

  • 公共服务新蓝图:教育、就业、交通全面升级

    9月12日,记者从自治区市场监督管理厅了解到,我区近日印发实施《全

  • 国内首台商业化体积生物打印设备发布

    记者8月29日获悉,在广州医科大学番禺校区近日召开的第一届绿钥体积

  • 李家超:从细节逐项改善民生 让市民安居乐业 世界快消息

    中新社香港8月24日电 香港特区行政长官李家超将于10月发表其任内第

  • 视焦点讯!农民工子女高考后的暑假,有了新的打开方式

    近年来,完成高中学业的农民工子女尝试告别传统的“打工赚学费”,热衷

  • 7月22日人民币对美元中间价报7.1335元 下调20个基点_观热点

    中新网7月22日电 据中国外汇交易中心网站消息,中国人民银行授权中

  • 潢川县:降低企业准入门槛 助力营商环境优化|世界热文

    “网上登记系统提供有行业字词,企业名称很快审批下来了。”近日,潢川

  • 环球关注:​潢川农商银行联合潢川县黄寺岗镇举行“整村授信”启动仪式

    为进一步践行普惠金融,助力乡村振兴,不断提升“三农”金融服务工作质

  • 旅游
    • 产粮区推行病虫害绿色防控 促进秋粮稳产提质

    • 上海顺风大酒店(关于上海顺风大酒店的基本详情介绍)

    • 孩子们来到急救直升机旁,争当小小急救员

    • 王耀庆和老婆合唱的歌 王耀庆拍戏没穷过 基本情况讲解