发展与安全并重，推动AI走“科技向善”之路

时间：2024-07-08 13:45:01来源：新媒体

原标题：大模型、人形机器人、AI办公助手等应用场景纷纷出现引发治理问题，有关专家表示——（引题）

发展与安全并重，推动AI走“科技向善”之路（主题）

工人日报—中工网记者杨召奎

7月4日~6日，2024世界人工智能大会暨人工智能全球治理高级别会议在上海举行。此次大会聚焦大模型、机器人、自动驾驶等重点领域，集中展示了一批“人工智能+”创新应用最新成果，也促进了多方之间的合作与交流。大会推动24个重大产业项目签约，预计总投资额超400亿元。

在世界人工智能大会上，金山办公升级AI战略，发布WPS AI 2.0，为个人用户新增4个AI办公助手，分别为AI写作助手、AI阅读助手、AI数据助手、AI设计助手；以视觉生成大模型、推荐大模型、快意语言大模型为核心的快手大模型矩阵集体亮相；360携安全大模型、360企业智脑、360 织语智能协同工作平台等企业智能应用亮相；合合信息展示的加载了文档解析引擎的大模型“加速器”，可“读懂”图表；猿力科技展示了其自研大模型支撑的教育产品，已覆盖对话辅导、口语陪练、阅读理解等面向家庭教育端的应用场景；马上消费分享了金融大模型安全可信实践经验……近百个大模型集中展现，让人们看到了国产大模型的应用场景日益丰富，并在办公、娱乐、工业、科研、教育、金融等领域各有所长。

18个人形机器人在控制人员的指令下，整齐划一地向来宾表示热烈欢迎……越来越智能的人形机器人，是世界人工智能大会的“人气明星”。大会上，国内首款全尺寸通用人形机器人开源公版机“青龙”公开亮相，其拥有高度仿生的躯干构型、拟人化的运动控制，支持快速行走、敏捷避障、稳健上下坡、抗冲击干扰4大运动功能。尽管人形机器人走进千家万户还需一定时间，但有理由相信，随着技术的不断进步和应用场景的不断拓展，人形机器人有望在未来实现更多的突破和创新。

人工智能也让自动驾驶成为现实。此次大会上，小马智行首批获得上海市无驾驶人智能网联汽车示范应用许可，这意味着在上海中心城区浦东205公里路线上，融易新媒体消息，乘客可以通过小马智行同名手机软件预约乘坐一辆没有驾驶员的Robotaxi。有观众现场体验后感慨：“车开得很稳，也很聪明，真没想到自动驾驶已经进化到这种程度了。”

不过，随着AI技术的迅猛发展和广泛应用，其存在的数据泄露、数据滥用、隐私侵犯、偏见歧视、深度伪造、虚假信息、网络攻击、网络欺诈等方面的问题，也让AI治理成为重大议题之一。因此，此次大会的主题也明确为“以共商促共享，以善治促善智”。

在清华大学人工智能国际治理研究院院长薛澜看来，人工智能的治理与发展已走到关键的“十字路口”，尤其是生成式人工智能所带来的挑战是前所未有的。

如何推动AI走“科技向善”之路？有与会专家指出，应构建高可靠人工智能安全体系，着力为用户提供有效的安全防护。一方面，要统一数据输入标准，能让AI读懂“多国语言”，完成体系化分析；另一方面，要统一指令输出标准，让AI实现跨设备、跨系统的能力协同和全局联动。此外，不仅要用AI驱动安全，还要做好AI自身安全防护，让安全合规贯穿全生命周期。