时间:2023-06-24 20:47:01来源:界面新闻
但是在很多产业场景中,用户对企业提供的专业服务要求高、容错性低,企业一旦提供了错误信息,可能引起巨大的法律责任或公关危机。因此,企业使用的大模型必须可控、可追溯、可修正,而且必须反复与充分测试才能上线。
我们认为,客户更需要有行业针对性的行业大模型,再加上企业自己的数据做训练或精调,才能打造出实用性高的智能服务。企业所需要的是,在实际场景中真正解决了某个问题,而不是在100个场景中解决了70%-80%的问题。
另外,训练数据越多,模型越大,训练与推理的成本也越高。实际上,大部分的企业场景可能也不需要通用AI来满足需要。因此,如何在合理成本下选择合适的模型,是企业客户所需要思考与决策的。
其次,数据是大模型的原材料。针对具体场景,相关数据的覆盖与质量都至关重要,标注数据的管理也是模型迭代中的重要工作。
模型最终要在真实场景落地,要达到理想的服务效果,往往需要把企业自身的数据也用起来。在模型研发过程中,既要关注敏感数据的保护与安全合规,也需要管理好大量的数据与标签,不断测试与迭代模型。
再次,算力是模型持续运转的基础。高性能、高弹性和高稳定的算力,需要借助专业的云服务。
在大模型的训练和使用过程中,需要大量异构算力的支持,对网络速度与稳定性要求也很高,加上GPU服务器比一般服务器稳定性更低一些,服务器的运维、问题的排查更频繁,整体运维的难度与工作量会高很多。
在训练集群中,一旦网络有波动,训练的速度就会受到很大的影响;只要一台服务器过热宕机,整个集群都可能要停下来,然后训练任务要重启。这些问题会使得训练时间大大增加,投入在大模型的成本也会飙升。
腾讯能做些什么?基于这些企业现实问题和需求的思考,就在前两天,腾讯也正式公布了腾讯云MaaS服务全景图。
基于腾讯云TI平台打造的行业大模型精选商店,将覆盖金融、文旅、政务、医疗、传媒、教育等10大行业,提供超过50个解决方案。在这些能力模型基础上,客户只需要加入自己独有的场景数据,就可以快速生成自己的“专属模型”。
我们也推出基于腾讯云TI平台的行业大模型精调解决方案,帮助模型开发者与算法工程师一站式解决模型调用、数据与标注管理、模型精调、评估测试与部署等任务,减轻创建大模型的压力。我们也可以通过TI平台实现模型的私有化部署、权限管控和数据加密等方式,让企业用户在使用模型时更放心。
在算力服务上。腾讯云所提供的稳定计算、高速网络与专业运维,可以为算法工程师大大减轻设备运维的压力,让他们把精力放在模型的构建与算法的优化上。
腾讯云也打造了面向模型训练的新一代HCC(High-Performance Computing Cluster)高性能计算集群。其搭载最新次代GPU,结合多层加速的高性能存储系统,加上高带宽、低延迟的网络传输,整体性能比过去提升了3倍,获得了很多客户的高度认可,几家大模型独角兽,都与腾讯展开了算力合作。
在计算集群的“硬实力”之外,腾讯最近也推出了更适合AI运算的“软能力”——向量数据库,它能更高效地处理图像、音频和文本等非结构化数据,支持单索引10亿级规模,比单机插件式检索规模提升10倍,数据接入AI的效率也比传统方案提升10倍。
毫无疑问,AI对世界的改变,一定也是通过与产业的融合实现的。机器决策、自主生成、自然交互等一系列变革,推动产业实现更高效率、更低成本、更好体验和更大创新。未来的企业,也将向智能原生进化。