《科技伦理审查办法（试行）》落地，上市银行准备好了吗？

21世纪经济报道记者李览青 上海报道

金融科技伦理治理更进一步。

10月8日，科技部联合十部门联合印发《科技伦理审查办法》，成为科技伦理风险防控与创新风险治理的准则。而就在去年10月9日，央行正式发布并实施《金融领域科技伦理指引》 ，提供了在金融领域开展科技活动需要遵循的守正创新、数据安全、包容普惠、公开透明、公平竞争、风险防控与绿色低碳等7方面价信理念与行为规范。

同时，21世纪经济报道记者从相关人士处独家获悉，在中国人民银行指导下，一项关于金融领域人工智能应用风险治理的推荐性行业标准正在制定中。

如今，《指引》发布已满1年，金融科技伦理建设已融入机构风险管理与科技治理体系，成为其中的重要部分。

当新兴技术应用兴起，如何在发展中识别、防范技术风险？

金融科技伦理治理体系进一步完善

科技伦理治理相关组织已加速成立。

本次发布的《办法》在第二章即明确，高校、科研机构、医疗卫生机构、企业等是本单位科技伦理审查管理的责任主体，从事生命科技、医学、人工智能等科技活动的单位，研究内容涉及科技伦理敏感领域的，应当设立科技伦理委员会，其他有科技伦理审查需求的单位可根据实际情况设立。其中第七条特别提到， 科技伦理委员会人数应不少于7人，设主任委员1人，副主任委员若干。委员会由具备相关科学技术背景的同行专家，伦理、法律等相应专业背景的专家组成，并应当有不同性别和非本单位的委员，民族自治地方应有熟悉当地情况的委员。委员任期不超过5年，可以连任。

在科技伦理治理体系完善的背景下，头部科技企业大多已设立AI伦理委员会或科技伦理委员会。从海外来看，Facebook、Google、索尼、微软、SAP都设立有自己的伦理委员会，国内阿里巴巴、商汤科技、海康威视、蚂蚁集团也设立了科技伦理治理委员会。

事实上，去年发布的《指引》也提及明确金融机构履行伦理治理主体责任，建立健全伦理管理组织架构与制度规范，探索设立企业级科技伦理委员会，完善科技伦理审查、信息披露等常态化工作机制，压实各方职责，做好金融科技活动的审查、批准与监督，提前预防、有效化解金融科技活动伦理风险，严防技术滥用、误用。

就金融科技领域来看，目前成立的金融科技伦理委员会主要是地方性自律组织。

2020年12月，在深圳市地方金融监督管理局推动与指导下，深圳市金融科技伦理委员会成立，旨在推动行业严守合规底线。

2021年全国首个省级金融科技伦理委员会——浙江互联网金融联合会金融科技伦理委员会成立，对算法伦理与个人信息保护治理进行学术研究，推动促进行业共识与标准统一。

2022年4月，在安徽省地方金融监管局与人民银行合肥中心支行指导推动下，安徽省互联网金融协会组建成立安徽省金融科技伦理委员会，致力于促进金融科技领域创新研究与科技成果转移转化。

各大银行科技伦理建设工作一览

到2023年10月9日，金融领域科技伦理指引恰好“周岁”，金融机构科技伦理建设进展如何？

据记者了解，目前银行尚未专门成立相关组织负责科技伦理审查工作，但科技伦理教育与信息安全、数据安全风险管控已然强化。

21世纪经济报道记者根据头部上市银行年报、半年报梳理了各行在科技伦理方面的组织体系与相关工作。

相关信息显示，金融机构的科技伦理工作主要涉及消费者权益保护、ESG、绿色金融、信息科技管理委员会、风险管理委员会等，对数据安全、算法合规、金融服务可及性、消费者权益保护等方面进行管理。

在各家银行2023年半年报中，越来越多的银行提及金融科技伦理与新兴技术风险管理。

例如工商银行提到其积极探索金融科技伦理建设，制定金融科技伦理工作方案，把科技伦理要求贯穿于技术应用、创新研发等科技活动全过程，提升新形势下的科技管理有效性。

交通银行则是在今年上半年面向集团员工开展金融科技伦理宣贯培训，弘扬本行“科技向善，数据平权”的伦理价值理念，持续提升员工金融科技伦理素养。

值得一提的是，建行也在半年报中特别提到“新型风险管理”，具体来说，包括模型风险、数据风险、洗钱风险、欺诈风险、新产品风险等新型风险涌现，延展了金融机构面对的风险范围。在模型风险管理层面，建行持续完善模型风险管理机制，全面推进模型管理制度落地实施，明确集团模型总量和风险等级。强化模型验证工作，加强外购模型的风险管控。完善企业级模型风险管理平台项目，推进全行各类模型全生命周期管理的线上化、规范化。

大模型时代科技伦理更受关注

在近年来的大模型浪潮下，人工智能应用风险治理更受关注，而科技伦理已成为一项重要的评测指标。

据21世纪经济报道记者获得的一份AIGC模型评测报告显示，科技伦理与内容安全、数据安全一起，被列为核心风险指标。具体来说，AIGC模型的科技伦理风险类型包括偏见与歧视、礼貌文明、AI自主意识、心理健康等等诸多项目。

而在过去金融机构对人工智能的风险评估主要还是数据风险与算法风险两项指标，涵盖数据安全风险、数据偏见风险、算法安全风险、算法可解释性风险、算法决策风险、数据来源合法性、数据处理脱敏性、数据运用保密性，主客观数据偏见，算法泄露、被篡改风险、算法透明性、算法可解释性等等。

另外，21世纪经济报道记者从相关人士处独家获悉，在中国人民银行指导下，一项关于金融领域人工智能应用风险治理的推荐性行业标准正在制定中，将为金融行业人工智能系统应用的风险识别与防控，以及系统升级、实现、验证、测试、管理提供依据。