A大模型应用发展研究报告电信运营商与云服务商的合作探索腾讯云计算（北京）有限责任公司编委会编委成员主编：张晋、栗蔚编委（排名不分先后）：秦若毅、周锐、吴炳文、马飞、苏越、赵伟博、桑柳参编单位：腾讯云计算（北京）有限责任公司中国信息通信研究院云计算与大数据研究所中国通信标准化协会版权声明本报告版权属于腾讯云计算（北京）有限责任公司、中国信息通信研究院云计算与大数据研究所和中国通信标准化协会，并受法律保护。转载、摘编或利用其他方式使用本报告内容或观点，请注明：“来源：《N大模型应用发展研究报告一电信运营商与云服务商的合作探索》”违反上述声明者，编者将追究其相关法律责任。目录/CONTENTS1.百模大战，电信运营商入局AI大模型021.1人工智能研究持续深入，大模型再掀浪湖031.2A大模型市场规模特续增长，国内外呈现混战格局031,2.1海外企业占据先发优势，A1大模型已经轮迭代041,22国内企业紧抓发展机遇，通用、专用、开源、闭源全面发展051.3大模型建设方持续多元化发展，电信运营商走出“体系化”建设道路082.优势互补，电信运营商与云服务商在竞争中探索合作共赢新局面102.1电信运营商A大模型发挥通信业语料优势，用语音大模型打开市场2.2云服务商小大模型发展发挥快速迭代落地优势，积累丰富市场反馈132.3“1+3+N”合作体系，云服务商全面助力电信运营商发展A大模型143.一集群三路线，云服务商助力电信运营商进行软硬兼备的A大模型建设储备163.1云服务商支持高效算力集群建设3.1,1算力集群建设与发展面临的桃战173,1.2构建高效算力集群的关键技术203.2云服务商打造三大软件合作路线32.1行业智算云+标准化应用：合力推广开箱即用的大横型软件2532.2私有云集成+标准化组件：合力承建私域化的知识增强型应用253,2.3项目总集成+智算技术底座：合力支持按需定制的客户大模型263.3运营商和云服务商的融合共键价值263.3.1同质化的硬件堆叠难以保证竞争中的优势3,3,2运营商优质资源和云服务商最佳实践的结合274.N个场景，云服务商支持电信运营商构建A大模型场景化解决方案284.1企业知识应用场景294.3增值内容创作场景33354.5D1CT合作场景375.电信运营商大模型应用案例405.2帮助运营商提高视频分析能力445.3为5G视彩铃提供内容制作能力465.4A代码助手助力运营商研效提升495.5行业大模型跖展运营商CH端场景516.电信运营商大模型发展展望526.1技术演进，大模些姓设与应用不断探索高效率、高精度、高适用性536.2应用创新，电信运营商大模型要紧抓行业内、外痛点，打造差异化竞争力536.3跨领碱协同，电信运营商与其他产业角色优势互补，谋求双赢53前言/FOREWORDOpenAl2022年底发布ChatGPT:再度引爆人工智能的全球研究热潮，各国纷纷投入或加强对AI大模型的研究，其中中国、美国成果频出，引领产业发展。从市场格局来看，海外企业占据大模型先发优势，几大巨头科技企业及个别人工智能企业已经完成几轮大模型迭代，性能不断提升；国内A大模型建设方“百花齐放”，依托技术优势及业务经验，在构建通用大模型的同时，打造具备企业业务特色、行业特色的专用A|大模型，并在A大模型开源领域积极贡献。从产业角色来看，海外A大模型建设方以科技企业为主，其他类型企业陆续入局；国内建设方不断多元化发展，已形成云服务商、电信运营商、设备厂商、互联网厂商等多种产业角色共建的局面。多产业角色入局带来了竞争，同时也带来了协同合作的机会。本报告对云服务商与电信运营商在此背景下的竞合展开研究，旨在发挥二者的技术、产品、应用优势，提出“1+3+N”合作体系：联合打造1个适合A大模型培育的算力集群；沿着标准软件研发、标准模型能力增强与定制化模型精调3条路线开展技术攻关；从企业知识应用、视联网内容分析、增值内容创作、客服场景、DCT合作等N个场景形成解决方案。从A大模型设计、建设到应用，探索云服务商全流程支持电信运营商A大模型发展的机遇的措施。未来，腾讯云与中国信通院将持续关注八大模型发展与应用，继续深入研究云服务商、运营商等产业角色的合作，在人工智能的浪潮下发挥不同产业角色的优势，通过产业协同合作共同助力生态建设。本报告内容仍有诸多不足，恳请各界批评指正。01百模大战，电信运营商入局AI大模型人工智能历经数十年的发展，大模型的出现再度引发学术界、产业界的关注，该领域表现出的巨大发展潜力吸引了国内外数百家企业投入其中，工业和信息化部数据显示截至2023年年底，我国累计发布了200多个人工智能大模型。与以往人工智能的研究不同，大模型由于其更靠近产业应用，商业化路径较短，加上广阔的应用空间，吸引了众多类型的企业成为建设方，形成了如今“百模大战”的局面，电信运营商也早早入局，依托其产业优势，打造从硬件到软件体系化的大模型产品。数据来源：微信公众号"“工信微报”2024年2月27日《数字经济时代如阿推进中国工业现代化？一组数据为你全面展现》A1大模型应用发展研究报告031.1人工智能研究持续深入，大模型再掀浪潮人工智能(Artificial Intelligence,Al)技术发展带来的变革已经深入人类的生产生活，近年来，各国也在逐渐加强对人工智能技术研究的重视程度，提升通过人工智能等新技术发展国家科技水平的战略地位。中国信息通信研究院《人工智能白皮书(2022年)》提到，自2016年起，先后有40余个国家和地区将推动人工智能发展上升到国家战略高度，越来越多的国家认可发展人工智能技术对提升国家全球竞争力的关键作用。例如欧盟2021年发布的《2030数字指南针：欧洲数字十年之路》将人工智能的使用程度作为欧洲企业数字化转型目标，指出到2030年，75%的欧洲企业使用云计算、大数据和人工智能；美国将人工智能作为未来产业进行重点布局，陆续发布《2020年未来产业法案》、《关于加强美国未来产业领导地位的建议》等确保在人工智能领域的投入以保障其在科技领域的竞争力；中国在《“十四五”数字经济发展规划》中强调要增强人工智能等关健技术的创新能力。自此，A大模型的研究成为了人工智能领域的关键技术之一。A大模型，通常指具备十亿以上参数和复杂计算结构的人工智能机器学习模型，由深度神经网络构建而成，具备六大特点：模型大小上，可达数百GB;数据级规模上，需要TB甚至PB级的数据支持训练；训练时长上，通常需要成百上千个GPU训练几周甚至几个月；模型精度上，拥有相比作为早年研究热点的小模型更强的表达能力和更加准确的推理能力；推理能力上，能够支持文本、图像、音频、视频等多模态数据；智能化程度上，体现出了更近似人类的归纳和思考能力。对八大模型的研究意义深远，从技术的演进来看，一方面A大模型的探索与实验将积累大量的大规模计算经验，驱动算力设备、集群、服务等整个产业链发展及完善其大规模计算支持能力，另一方面A大模型在文本、图像等多模态数据的推理、生成上表现出的良好性能，推动技术跨学科、跨行业融合创新，展示出巨大的发展潜力；从应用的价值来看，一方面A大模型支持应用以自然语言交互的方式提供服务，为产业应用提供了新的发展思路与机会，另一方面八大模型有望将人力释放至资源更紧缺的岗位，同时可能行生出新的产业角色与岗位，可能带动新一轮的产业变革。A大模型的发展与应用价值，近两年吸引了产业、学术、应用等领域内多家企业的关注与投入，企业纷纷开发各自的大模型及相关应用，逐渐形成了“百模大战”的格局。1.2A!大模型市场规模持续增长，国内外呈现混战格局据DC预测，全球A1计算市场规模将从2022年的195亿美元增长到2026年的346.6美元，其中生成式A1计算市场规模将从2022年的8.2亿美元增长到2026年的109.9亿美元。在全球范围内，中美两国在A大模型的研发上发挥着引领作用。2024全球数字经济大会上发布的最新数据显示，全球A1大模型已经超1300个，中国研发的A大模型数量仅次于美国，位列全球第二，中美发布的A大模型数量占全球的80%。其他国家也正加速发展人工智能产业及A大模型，形成国内外A大模型百花齐放、竞相发展的局面。1.21海外企业占据先发优势，AI大模型已经多轮迭代04A!大模型应用发展研究报告展，并与微软等企业“强强联合”进行应用验证，各模型已形成“多强竞合”的局面。研发方面，以美国科技企业为主的多家企业陆续推出各自代表性的产品，经过市场验证后进行多次能力升级：01 OpenAl2022年11月，美国OpenA1发布人工智能技术驱动的自然语言处理工具ChatGPT-3.5,5天注册用户即破100万，被微软创始人比尔·盖兹称为可以与1980年图形用户界面相提并论的革命性技术；2023年3月，推出性能更优的ChatGPT-4,并于同年11月发布拟人化程度更高的ChatGPT-4-Tub0;2024年2月，发布人工智能文生视频大模型S0ra;2024年5月，OpenAl发布了可支持跨模态综合理解和生成能力的ChatGPT--4o。2Google除了OpenAl,Google在A大模型的发展历史上同样是不可或缺的角色，早在2017年，Google即发布NLP模型Trans-former,,是目前大部分Al大模型训练时采用的网络结构，通过引入Self-Attention机制来提高模型训练速度，为后续大语言模型的升级迭代奠定了基础；2018年，发布大规模与训练模型BERT;2022年8月，G00gle推出高级语言学习模型PaLM;2023年5月，Google发布PaLM2与基于大模型的聊天机器人Bard;2023年12月，Google母公司Alphabet下设的人工智能实验室Deep Mind发布Al大模型Gemini;2024年5月，Google l/O:开发者大会上发布了由升级后Gemini模型驱动的AI助手项目Project Astra、对标Sora的文生视频模型Veo,以及在硬件方面发布的第六代Tensor处理器单元(TPU)Trillium芯片；同年8月，Googlel收购以利用大模型生成各种人物和角色风格对话为主业的人工智能初创公司Character.A,反映出海外大模型市场正在展现出的市场格局变化趋势一大企业对具备创新能力、相关技术的中小企业展开并购。2024年3月，Meta将其大模型Lama3正式开源，并宣称可通过AWS、Google Cloud、Azure等平台提供给开发者，同时获得了NVIDIA、AMD、Intel等硬件平台的支持，是大模型开源历程上重要的里程碑。☑初创公司及研究机构2023年3月，美国人工智能初创公司Anthropic对标ChatGPT、Gemini等产品，发布具有高级推理、视觉分析、代码生成、多模态等能力的大型语言模型家族Claude,2024年3月，Claude3系列发布，在数据和复杂任务理解等方面均有超出ChatGPT-4和Gemini1.0Utra的表现；2023年9月，法国企业Mistral A推出了基座大模型Mistral7B,并在基准测试中得到相当于或超出ChatGPT-3.5的性能表现；2024年8月，韩国LG集团新推出的人工智能研究机构LGA1 Research首次公开了AI大模型Exa One3.0轻量版作为开放源代码，该模型对韩语的应答做了针对性优化。应用方面，微软率先拥抱Al大模型，其中，搜索引擎Bing将作为ChatGPTE的默认搜索引擎，Azure Al Studio将支持GPT-4o、Phi-3-vision、ama3、TimeGer-1等市面上主流的1600多种开/闭源大模型，帮助开发人员快速找到自己最想要的模型；推出Windows Copilot Runtime,支持包含DirectML、ONNX Runtime、PyTorch、VebNN在内的多个AI框架以及工具链如Olive、.Visual Studio Codef的A工具包等，可以帮助开发人员快速引入自己的大模型，并在Windows硬件生态系统的广泛范围内扩展其A应用。微软在大模型应用领域的探索，为全球大模型应用提供了有效的参考。政策方面，美国在推进A大模型发展的同时关注人工智能尤其是A大模型潜在的内容安全风险，并发布《关于安全、可靠、可信地开发和使用人工智能的行政命令》等文件以对上述问题进行监管；英国科技部长于2023年4月宣布将斥资一亿英镑建立新的“基础模型工作组”，以开发能带来全球竞争力的八方案；韩国2023年公布了人工智能大模型竞争力提升方案，聚焦非英语圈的全球市场，力争推进韩文人工智能大模型成为全球专业人工智能领域的领跑者。A!大模型应用发展研究报告052024年8月开了A大模型Ea2024年5月持跨模态综合理2024年5月解和生成能力的ChatGPT-4o2024年3月Meta正式开源大Anthropic发布2024年3月Claude3系列2024年2月智能文生视频大模Google发布A2023年12月型Sora大模型Gemini2023年11月法国MistralAl2023年9月ChatGPT-4-Tur-公司推出大模型boMistral 7B2023年5月●美国人工智能初创公司Anthrop2023年3月ic发布Claude2023年3月ChatGPT-3.5性能2022年11月更优的ChatGPT-4然语言处理工具Google推出高ChatGPT-3.52022年8月Google发布大级语言学习模型2018年PaLM规模与训练模型BERT2017年Google发布NLP模型Transformer▲海外AI大模型发布情况1.2.2国内企业紧抓发展机遇，通用、专用、开源、闭源全面发展中国积极响应全球大模型技术的发展趋势，高校、研究院所等科研机构，互联网企业，人工智能企业，电信企业等行业用户均不同程度地投入进A大模型的建设中，陆续发布或开源基础AI大模型及具备行业属性、业务属性的AI大模型能力及产品，全面布局通用、专用、开源、闭源A大模型发展路线。研发方面，科研机构率先解决中国A大模型“从0-1”的问题，互联网企业、电信企业等不同类型的企业纷纷入局为中国A|大模型研究生态注入动力。2021年3月，经过北京大学、清华大学、中国科学院等机构多个A1团队联合攻关，北京智源人工智能研究院发布中国第一个超大规模智能模型“悟道1.0”，并于同年6月发布了“悟道2.0”，达到1.75万亿参数，2023年6月，“悟道3.0”问世，并开源“悟道·天鹰”(Aqua)语言大模型系列和“悟道·视界”视觉大模型系列，与多个高校和科研院所合作构建F1 agEval(天秤)开源大模型评测体系与开放平台；2023年2月，复旦大学发布大语言模型MOSS,并开源其研究成果；2023年3月，清华大学与智谱A联合研发的大语言模型ChatGLM-6B正式发布，针对中文问答进行了优化，2024年1月，清华大学发布新一代基座大模型GLM-4,性能及中文能力逼近GPT-4,同年4月，清华大学联合北京生数科技有限公司共同研发视频大模型Vidu,是自Sora发布之后全球率先取得重大突破的视频大模型。06A!大模型应用发展研究报告02互联网企业及云服务商中国大、中互联网型企业或其云服务公司基本均发布了各自的A大模型及其配套的产品，并结合各自的产业优势、业务侧重推出适用于垂直场景的专用大模型。2021年，华为云发布盘古系列超大规模与训练模型；2023年3月，百度正式发布文心一言；4月，阿里巴巴发布“通义千问”语言模型，商汤发布“日日新SenseNova”大模型体系并陆续迭代5个版本；5月，科大讯飞发布“星火认知”大模型，迄今已经迭代5个版本；6月，360集团召开“360智脑大模型4.0”发布会，并宣称其已经接入360旗下产品全家桶；7月，华为云发布“盘古3.0”大模型，覆盖基础、行业及场景三层架构，京东推出“言犀”大模型，致力于服务零售、物流等产业，网易有道发布教育领域垂直大模型“子日”；8月，抖音集团对外测试A对话产品“豆包”，并发布“云雀”语言模型；9月，腾讯正式发布通用大语言模型“混元”，目前已经全面开源。2024年，除了已经发布的大模型不断迭代之外，7月，快手还发布了视频生成大模型“可灵”、图像生成大模型“可图”等系列大模型。O3人工智能企业近年来中国涌现出了一批人工智能企业，在A大模型领域展示出了强大的创新力与竞争力。2023年6月，百川智能正式推出中英文训练大模型Baichuan--7B,并在随后的一年中陆续发布或开源了Baichuan2-7B、Baichuan2-13B和Baich-ua-53B。2023年9月，北京月之暗面科技有限公司推出基于“Moonshot”大模型的智能助手Kimi,主要用于学术论文的翻译理解、法律问题辅助分析、AP1文档快速理解等场景，在长文本处理上表现出了良好的性能。Kmi已经在2024年开始探索商业化路线及个人用户的付费意愿。斑头雁（杭州）智能科技有限责任公司推出BetterYeah企业级AI应用开发平台，采用集成的思路内置ChatGLM、通义千问等国内外Al大模型。应用方面，相较于海外的企业合作模式，中国的A大模型应用具有更加明显的行业属性。医疗行业，A大模型应用于病例的速了药物的研发流程；交通行业，A大模型帮助交通道路规划、辅助自动驾驶等，例如智己汽车采用生成式大模型帮助汽车理解用户意图，打造人车路多模态交互方式；教育行业，A大模型参与知识问答、内容创作、个性化教学等，例如猿辅导利用A大模型辅助进行学情分析、阅读对话、计算解题等教育能力。政策方面，自A大模型研究热度升高以来，中国及其多个省份陆续发布相关政策、措施，以支持和监管A大模型的研究与应用，助力A大模型发展并有效发挥正向的价值。2023年3月，工业和信息化部等四部门印发《新产业标准化领航工程实施方案(2023一2035年)》指出前瞻布局生成式人工智能等未来产业标准研究。7月，国家互联网信息办公室等部门联合发布《生成式人工智能服务管理暂行办法》，提出国家坚持发展和安全并重、促进创新和依法治理相结合的原则，采取有效措施鼓励生成式人工智能创新发展，对生成式人工智能服务实行包容审慎和分类分级监管。北京市2023年发布《北京市促进通用人工智能创新发展的若干措施》，上海市发布《上海市推动人工智能大模型创新发展若干措施(2023-2025年)》，广东、浙江等省份均发布相关文件，鼓励企业结合地方优势开展A大模型研究工作。尽管目前中国A大模型技术仍处于研发和迭代的初期阶段，模型的性能、价值还有待接受市场的检验。目前八大模型的研究和应用探索已经显现广阔的发展前景，中国企业的探索和创新能力使得中国有望在这场A大模型的科技竞争中保持长久的竞争力。