快捷导航 
时间：2024-05-05 21:39:33来源：澎湃新闻
微软和OpenAI等科技巨头的CEO加入美国AI(人工智能)安全委员会。
当地时间4月26日，美国国土安全部(DHS)宣布成立AI安全委员会，以指导美国关键基础设施安全地使用AI。该委员会的22名成员中包含不少AI领域的业界和学界巨头，例如OpenAI的CEO萨姆·奥特曼(Sam Altman)、英伟达CEO黄仁勋、微软CEO萨蒂亚·纳德拉(Satya Nadella)以及斯坦福大学教授李飞飞。
美国国土安全部部长马约卡斯(Alejandro Mayorkas)在媒体电话会上表示，该委员会将针对如何在16个关键的基础设施领域中有效部署AI提供建议，这16个基础设施领域包括“国防、能源运输、信息技术和金融服务，融易新媒体消息，还有食品和农业等等”。
除了提供可行的建议外，该委员会的成立将使关键的基础设施社区和AI领导者“能够共享AI带来的安全风险信息”。
马约卡斯指出，该委员会的任务是“制定负责任地使用AI并防御该技术的实用建议、指南和最佳实践”。不过，马约卡斯没有详细说明DHS与该委员会实施其任务的究竟方式，称将在未来发布对委员会目标进行更完整解释的公告。
马约卡斯还强调，AI可以成为“一种极其强大的力量”：“AI可以遭用来提高所有关键基础设施所提供服务的效率和质量。与此同时，我们也认识到，其错误使用可能带来极强的破坏性影响。”
AI安全委员会的成员名单涵盖与AI相关方面，包括美国政界人士、科技巨头代表、基础设施代表、知名学者和意见领袖。在业界巨头这方面，除了微软、英伟达和OpenAI以外，谷歌母公司Alphabet、亚马逊AWS、Anthropic、达美航空、IBM、Adobe和AMD的CEO也出现在名单中。
DHS表示，美国拜登总统指导马约卡斯成立了这个由22人组成的委员会，该委员会将于今年五月首次召开会议，并将每季度举行一次会议。
不过，令人意外的是，在AI热潮中同样表现出众的Meta公司CEO马克·扎克伯格(Mark Zuckerberg)和一向公开倡导AI安全性的埃隆·马斯克(Elon Musk)都没有出现在委员会成员名单中。
对于进入委员会一事，多位代表作出了回应。纳德拉表示：“AI是我们这个时代最具变革性的技术，我们必须确保其安全且负责任地遭部署。微软很荣幸能参与这一重要工作，并期待分享我们迄今为止的学习成果以及未来的计划。”AMD的CEO苏姿丰称，“AI的广泛使用有潜力改善我们日常生活的各个方面。我们必须跨公私部门合作，采取协作和负责任的方式，确保我们将AI的巨大力量用于良好目的。”
去年10月，拜登签署了完整行政命令，要求美国商务部为AI模型的安全、安保和测试标准以及AI生成内容水印规则的制定提供便利。今年2月，美国商务部宣布，包括OpenAI、Alphabet旗下谷歌、微软公司、Meta等巨头在内的知名美国AI企业将参与美国政府主导的一项工作，旨在制定AI技术的联邦标准。
