制度保障与技术守护 推动AIGC规范化发展

ChatGPT等现象级AIGC应用的出现,掀起新一轮人工智能技术浪潮。AIGC正在与各行各业深度结合,不断催生出新场景、新应用,赋能智能化变革。

在传媒业,AIGC作为新型内容生产方式,有望成为内容创造的新引擎,为媒体内容生产全面赋能。但是,技术创新总是“一体两面”,如果AIGC无序发展也会带来虚假有害信息、算法歧视、侵犯知识产权等挑战。

如何在技术繁荣与公共利益,创新与安全之间求得平衡?如何实现AIGC产业的向上向善?

制度保障:引导健康发展

针对生成式人工智能AIGC的安全风险,国家网信办联合有关部门于近日正式公布《生成式人工智能服务管理暂行办法》(以下称《办法》),为AIGC的健康发展与规范应用提供制度保障。

《办法》是我国首个针对生成式人工智能AIGC的监管方案,充分协调了创新发展与安全治理之间的关系。《办法》既提出采取有效措施鼓励生成式人工智能创新发展,也强调对生成式人工智能服务实行包容审慎和分类分级监管,明确了提供和使用生成式人工智能服务总体要求与法律底线。

国信证券指出,《办法》鼓励生成式AI在各行业、领域的应用,构建应用生态体系。细化监管部门及监管举措,并采用包容审慎的态度实施分类分级监管,相关政策利好行业发展,有助于大模型应用落地,加速AIGC应用生态发展。

AIGC具备快速的反应能力、生动的知识输出以及丰富的应用场景,在社会生产和生活的方方面面发挥着重要的作用。《办法》的出台进一步完善了生成式人工智能精细化治理体系,有利于营造安全有序的法治环境,引导AIGC产业充分释放正向应用价值。

技术守护:筑牢安全屏障

面对AIGC带来的内容合规问题,除了完善保障AIGC良性发展的法律法规体系,加强内容审核也是筑牢内容安全屏障的有效手段。

当虹科技的技术专家认为,AIGC在内容生产效率、内容版权价值、内容传播力和用户黏性方面都有很大的价值,智能剪辑、智能配音、AI合成主播等相关应用不断涌现,渗透到传媒业采编播的各个环节。

但是在安全播出、内容审核方面,目前传媒行业仍存在不小的挑战。一是审核工作量大。AIGC降低了内容创作门槛和生产成本,人工审核效率低下,容易漏审、误审。二是审核难度高。利用AIGC生成的内容可能是视频、语音、图文,形态复杂多样,涉及各行各业,甚至具备一定的专业壁垒和知识产权风险,对审核人员的专业素质要求高。三是追踪难度和复杂性高。机器深度学习后生成的内容愈发逼真,能够达到“以假乱真”的效果。虚假内容借助互联网大规模地、分散地、隐蔽地流动,以高度可信的方式触达用户,信息甄别难度大。

招商证券指出,随着AIGC应用的持续发展,其带来的潜在安全风险也不断升级。AIGC生成虚假内容带来的模型训练数据风险、生成内容中的知识产权风险等将不断涌现。

当虹科技打造的AI智能审核系统,内置权威敏感特征库,具备多样化审核模式,用AI守护AI,为客户提供媒体内容安全管理专业级服务,堪称传媒打工人解放双手的救星,企业降本增效的高性价比利器。

本文内容由互联网用户自发贡献,该文观点仅代表作者本人。如发现本站有涉嫌抄袭侵权/违法违规的内容,请发送邮件至 3587015498@qq.com 举报,一经查实,本站将立刻删除。本文链接:https://www.xmnhj.com/h/195517.html

      
上一篇 2023-07-31
相关推荐
发表回复
登录后才能评论