大模型在金融领域面临较大挑战?马上消费:从变量中找出不变量人工智能

“今年年初引发热议的ChatGPT让我们感受到了大模型的无所不能,但在工业领域、金融领域,大模型还有四个关键性难题。”据马上消费首席信息官蒋宁介绍,大模型目前还面临关键性任务和动态适应性、个性化要求和隐私保护、群体智能与安全可信和基础设施的能力四大难题。他举例表示,生成式模型所面对的一大困难是即使自身满腹经纶,但在回答错问题时可以不承担风险,比如自动驾驶,它的刹车、提速、转弯、看灯,外界环境都在变化,对向车也在变化,因此1%的错误都会造成生命财产损失,这就是金融大模型和传统大模型最大的区别。生成式模型它不能做解释,但金融大模型最主要的特点是具备判别性,它需要做出交易决策。

“以马上消费的风控来讲,我们有将近2000个模型,20万张表,每天都在变化,但环境不管如何发生变化,让模型犯一次错都是非常不容易的。这背后是马上消费作为以科技驱动的头部持牌消费金融机构,积累了1.79亿的用户,有超2000个模型,10万+变量,近50PB的多模态、高质量的数据等,通过在这些自身数据上做模型精调对齐训练,同时再用推理加速技术实现模型可控,从而做到更懂金融。”蒋宁这样说。

而关于安全的风险,中国工程院院士、浙江大学求是特聘教授谭建荣举了这样一个例子——北京一位老人接到远在美国孙子的视频电话,图像、声音都是孙子的,结果却被诈骗了,说明在人工智能时代,眼看的不一定是事实。而马上消费能探索金融大模型,说明只有拿到数据和模型,才能将不确定的关系转变为确定的关系,从变量中找出不变量。

应对AI风险方面,全国政协委员,国际系统与控制科学院院士、重庆国家应用数学中心主任杨新民表示,随着大模型的开放开源,深度合成技术的非法使用存在加速积聚的风险。他特别提到了加强深度防伪验证系统的重要意义,这里包括人脸识别及生物特征识别验证系统的活体检测、Deepfake伪造检测、对抗攻击与防御、深度学习可解释性等。

针对提升大模型应用的可信实践,中国信息通信研究院副总工程师王爱华在致辞中表示,可信人工智能实践的路径逐步清晰,当从业者自身把安全问题作为发展的第一要务时,说明这一技术将会在整个领域进行应用。

蒋宁表示,马上消费已形成“三纵三横”的大模型发展技术布局,并领航构建可信、合规、多模态、适配全域、泛化的金融大模型技术能力体系,聚焦行业领先的基础语言特性能力、逻辑和推理能力、语义理解、生成与创作、金融领域能力、安全与合规能力等六大核心领域,进一步推动金融数字化转型产生实质性的飞跃。

所谓三纵,是指实时人机协作、多模态智能、数据决策智能,在数据领域实现智能化,实现结构性数据判别式模型的综合能力。三横即是指持续学习、模型合规、组合式AI形成安全、合规、可信的技术能力,确保模型越用越聪明,同时更稳定、更安全可控。

“我们希望在任何情况下,它给客户的回答都是合规的,并且在任何不可预期的情况下它的结果是稳定的。”蒋宁这样说。

欧洲科学院外籍院士、清华大学人工智能研究院常务副院长孙茂松认为,大模型的基本定位是智力劳动者的助手,而非行业颠覆者。生成式人工智能的一个特点就是会出错,因为通用大模型对文本语言比较重视,对数字却不敏感,因此ChatGPT“经常乱说”,而金融数据又多为结构化知识图谱,因此大模型在金融领域有很多挑战,“马上消费做了一个很好的示范作用,开了一个好头”。(崔吕萍)

本文内容由互联网用户自发贡献,该文观点仅代表作者本人。如发现本站有涉嫌抄袭侵权/违法违规的内容,请发送邮件至 3587015498@qq.com 举报,一经查实,本站将立刻删除。本文链接:https://www.xmnhj.com/h/214844.html

      
上一篇 2023-08-28
相关推荐
发表回复
登录后才能评论