腾讯云发布行业大模型商店 提供MaaS一站式服务

来源: 中国经营网2023-08-03 12:19:35
  

6月19日,腾讯云在国家科技传播中心召开行业大模型及智能应用技术峰会,首次公布腾讯云行业大模型研发进展。会上腾讯发布了依托腾讯云TI平台打造行业大模型精选商店,可以为客户提供MaaS(Model-as-a-Service)一站式服务,助力客户构建专属大模型及智能应用。

《中国经营报》记者注意到,会上,腾讯云还联合22家客户正式启动行业大模型共建合作,并携手17家生态伙伴共同发起了“腾讯云行业大模型生态计划”,致力于共同推进大模型在产业领域的创新和落地。基于腾讯HCC高性能计算集群和大模型能力,腾讯云已经为传媒、文旅、政务、金融等10余个行业提供了超过50个大模型行业解决方案。


【资料图】

腾讯集团高级执行副总裁、云与智慧产业事业群CEO汤道生表示,生态共建是AI发展的有效路径,腾讯将坚持生态开放,为企业提供高质量模型服务,同时支持客户多模型训练任务,加速大模型在产业场景的创新探索。

产业场景是大模型最佳练兵场

会上,汤道生分别从模型、数据、应用与算力四个角度分享了对大语言模型在产业落地的思考。

就模型而言,汤道生认为,比起通用大模型,企业更需要针对具体行业的大模型,并结合企业自身的数据进行训练和精调,以打造出更实用的智能服务。企业对提供的专业服务要求高且容错性低,因此使用的大模型必须具备可控、可追溯和可修正的特点,并经过反复充分的测试。

其次是数据的重要性。“数据是大模型的原材料,针对具体场景,数据的覆盖和质量至关重要。在模型的开发过程中,需要关注敏感数据的保护和安全合规,并有效管理大量的数据和标签,不断进行测试和模型的迭代。”汤道生说。腾讯云也推出基于TI平台的行业大模型精调解决方案,帮助模型开发者和算法工程师高效率、高品质、低成本地处理数据,创建和使用大模型。

在应用方面,腾讯自身也应用行业大模型,优化自身企业级用户,为用户提高工作效率。例如,通过基于行业模型的智能小助手,腾讯会议可以协助用户进行日程安排、会管、会控等操作,并自动生成智能总结摘要,提升会议的效率。腾讯企点智能客服和AI代码助手等应用也通过行业模型的训练和精调,提供更精准、详细的回答和高效的编程辅助。

最后是算力的支持。算力是模型持续运转的基础,高性能、高弹性和高稳定的算力对于大模型的训练和使用至关重要。据介绍,腾讯云也提供新一代高性能计算集群,为客户提供稳定计算、高速网络与专业运维。同时,推出面向AI运算的向量数据库,支撑对图像、音频和文本等非结构化数据的高效处理,数据接入AI的效率,也比传统方案提升10倍。

汤道生表示:“大模型只是开端,AI与产业的融合,将绽放出更有创造力的未来。生态共建是AI发展的有效路径,腾讯将坚持生态开放,为企业提供高质量模型服务,同时支持客户多模型训练任务,加速大模型在产业场景的创新探索。”

携手10余个行业探索行业大模型

AI大模型驱动“智慧涌现”,为千行百业带来了全新发展机遇。然而企业在接入、训练、部署和应用大语言模型时面临着训练成本高昂、数据安全、专业知识不足等现实挑战。

当前,通用大语言模型在应对产业场景落地时存在一定的局限性。首先,通用大模型的训练数据主要来自公开数据集或网络数据,对于特定行业的专业领域知识了解有限。此外,通用大语言模型的训练需要大量计算资源和漫长的训练周期,这对企业来说可能昂贵且耗时。同时,安全和合规也是必要考量因素。因此,选择与具备一站式行业大模型服务能力的云厂商合作,打造企业专属的行业大模型至关重要,好用、易用的同时还能降低企业的成本和时间投入。

“依据企业实际需求,进而‘量体裁衣’定制一个专属大模型,或许是解决这些问题的最佳答案。”腾讯云副总裁、腾讯云智能负责人、优图实验室负责人吴运声表示,基于客户实际痛点和需求,腾讯云全新公布MaaS全景图,依托腾讯云TI平台打造行业大模型精选商店,为企业客户提供涵盖模型预训练、模型精调、智能应用开发等一站式行业大模型解决方案。在TI平台内置高质量行业大模型基础上,企业加入自己独有的场景数据,就可以快速生成自己的专属模型;同时,也可根据自身业务场景需求,“量体裁衣、按需定制”不同参数、不同规格的模型服务。

拥有充沛算力是大模型训练的基础,据悉,今年4月,腾讯云发布了专为大模型训练设计的新一代HCC高性能计算集群,采用最新一代的腾讯云星星海自研服务器,具备业界最高的3.2Tbps互联带宽,算力性能提升了3倍。此外,腾讯云即将推出向量数据库(Tencent Cloud VectorDB),源自腾讯集团每日处理千亿次检索的向量引擎(OLAMA),单索引支持10亿级向量规模,更适用于AI运算、检索,数据接入AI的效率也比传统方案提升10倍。

吴运生表示,在平台层面,依托TI平台,腾讯云将为客户提供一站式模型服务,涵盖完善的模型工具、成熟的流程方法、全面的配套服务、领先的安全保障能力。

首先,腾讯云TI平台内置多个高质量行业大模型,涵盖金融、传媒、文旅、政务、工业等多个行业场景,企业可以结合自身场景数据按需定制精调,也可以根据自身需求开展多模型训练任务,大幅降低大模型应用门槛。

其次,TI平台提供完善的大模型工具链,包括数据标注、训练、评估、测试和部署等全套工具。同时,由TI-ACC升级的“太极Angel”提供更优的训练和推理加速能力。在传统CV、NLP算法模型的基础上,新增了对大模型的训练和推理加速能力,通过异步调度优化、显存优化、计算优化等方式,相比行业常用方案性能提升30%+。

再次,TI平台沉淀了从“业务分析、数据处理、大模型选择”到“模型评测”的一体化完整方法论,同时支持MLOps的体系及工具,可以保障客户需求的顺利交付。

会上,中国科技新闻学会党委副书记、副理事长兼秘书长陈锐还表示,加速AI大模型技术在产业领域的创新和实践,推动国家人工智能技术发展,更需要全行业人员共同关注传播科技服务创新。

峰会现场,腾讯云还联合22家客户正式启动行业大模型共建合作,未来将依托腾讯云领先的行业大模型能力,构建垂直行业模型及应用。并携手17家生态伙伴共同发起了“腾讯云行业大模型生态计划”,致力于共同加速推进大模型在产业领域的创新和落地。

在行业大模型标准体系方面,中国信通院云计算与大数据研究所副所长魏凯,腾讯法务副总裁江波,腾讯云副总裁、腾讯云智能负责人、优图实验室负责人吴运声共同启动了“行业大模型标准体系及能力架构”研究,该研究涵盖模型行业能力、模型工程化性能、模型算力网络、模型安全可靠等方面,未来将为行业大模型的建设和应用提供完备的能力和标准体系。

(文章来源:中国经营网)

关键词:

责任编辑:sdnew003

相关新闻

版权与免责声明:

1 本网注明“来源:×××”(非商业周刊网)的作品,均转载自其它媒体,转载目的在于传递更多信息,并不代表本网赞同其观点和对其真实性负责,本网不承担此类稿件侵权行为的连带责任。

2 在本网的新闻页面或BBS上进行跟帖或发表言论者,文责自负。

3 相关信息并未经过本网站证实,不对您构成任何投资建议,据此操作,风险自担。

4 如涉及作品内容、版权等其它问题,请在30日内同本网联系。