科大讯飞全球1024开发者节代码论坛 |厚植大模型土壤 与京东云拥抱AI未来

如今，人工智能已融入医疗健康、交通运输等多个社会领域，成为引领未来的战略性技术，以预训练大模型引领的人工智能创新浪潮也不断更迭。为应对训练成本急剧攀升的大模型训练，AI 开发计算平台成为重要的解决方案。

10月24日，2023科大讯飞全球1024开发者节在合肥召开，这场人工智能盛会将引领AI向新而行，探索人工智能产业未来方向与趋势。在24日下午的代码论坛主会场现场，京东云副总裁龚义成发表关于代码大模型的主题演讲，介绍京东云新上线的言犀 AI 计算平台。会议邀请了行业专家、京东云技术专家、科大讯飞业务负责人以及生态合作伙伴出席，共同探讨AI 开发计算平台的发展前景。

龚义成：提高大模型开发效率迫在眉睫

京东云副总裁龚义成在主题演讲中表示，对一个大模型开发者来说，如果没有 AI 开发计算平台，意味着：在算法和应用的开发过程中，需要自己搭建底层 GPU 算力资源的调度、存储网络、模型管控等一系列体系，整体开发过程将非常原始且门槛非常高。

如今，大模型的强大势能成为许多行业里重构竞争格局的重要影响因素。在过去一段时间的实践中，京东云发现，产业大模型的挑战不仅仅在于技术本身，如何将技术与行业应用场景相结合，如何平衡成本、效率、体验，才是大模型行业落地的真正挑战。

对于想要提高大模型开发效率，帮助大模型更好得在行业中落地的公司来说，一套新的基础设施成为了必要。

京东云：言犀 AI 开发计算平台让大模型触手可及

2023科大讯飞全球1024开发者节展会现场，刚于今年9月底上线的京东言犀 AI 开发计算平台实力亮相，吸睛无数。

在大模型快速走入千行百业的当下，京东言犀 AI 开发计算平台让产业大模型开发变得门槛更低，利用和改造大模型更加简单。有过这样的计算：之前需要10余人的科学家团队工作，现在只需要1-2个算法人员，不到一周时间，言犀即可完成从数据准备、模型训练、到模型部署的全流程。

龚义成介绍，京东言犀 AI 开发计算平台覆盖了数据准备、模型开发、模型训练及模型部署的 AI 开发全流程能力，预置了主流开源大模型以及部分商业化大模型，以及一百多种推理工具和框架，能够有效降低大模型开发门槛和成本。

整体上，言犀 AI 开发计算平台能够满足不同专业程度的用户的使用需求。对于大模型算法开发者来说，能够全流程支持从数据准备、选择模型、代码调优、部署发布等工作。对于应用层开发者，能够利用无代码的方式，可视化点按选择模型、上传数据、配置参数，无需写代码即可实现任务引发，开始模型任务的训练，进而降低门槛。

未来，言犀还将继续升级平台能力，在国产硬件覆盖、模型生态合作、插件开发、应用评测服务、一体机交付、Agent 开发服务等方面继续完善，体系化地帮助解决产业大模型的开发和实施困难、大模型应用的开发困难、模型训练推理成本昂贵、模型和应用获取困难、高性能计算、高性能文件、异构硬件的使用和适配困难等问题。

科大讯飞：巧用大数据发力在“云端”

作为一家AI公司， 科大讯飞拥有超500万的生态合作伙伴以及海量数据，仅自有媒体月活用户就达到2亿，其营销业务也已经实现从零到百亿级的日交易量“飞跃”。背后强大的AI和大数据能力，是基于京东云助力构建的科大讯飞AI营销平台混合多云体系，实现了多云差异的屏蔽，做到了客户视角“一朵云”。

2019上云、用云前，科大讯飞AI营销平台使用的是自建单机房，一旦机房或者网络出现问题，业务可用性就无法保证，同时业务飞速增长也导致基础设施维护成本逐年攀升。

上京东云之后最大的改善，就是“很大的弹性”。作为国内首家提供多云多活多芯的云厂商，京东云高效、稳定、多入口的公有云平台，为AI营销构建整套广告投放公有云平台，全国不同区域的流量就近访问，大大提高了业务效率，全链路体验也得到了提升。

据悉，通过京东公有云的快速部署和按需付费优点，可以帮助科大讯飞AI营销业务降低成本20%以上。如按照618、11.11高峰需要弹性资源来计算，降低成本甚至能达到40%以上。

龚义成表示，大模型比拼已经走入落地应用的战场。京东云正提供从硬件基础设施、到智算集群，再到MaaS服务，一站式的大模型服务能力，从更强算力、更大存力、更加易用和更低门槛等方向发力，推动大模型在产业里的落地应用。