时间:2024-05-15 00:15:04来源:科技日报
此外,数字永生也考验数据和算力。“数字存储和处理能力的极限、数据的长期保存以及意识运行所需的资源问题,都是需要解决的技术难题。”周程表示。
除了技术限制,数字永生还涉及一些更深刻的伦理问题。在周程看来,数字永生重塑着人类关于死亡的文化体验,一定程度上模糊了生与死的边界。“在数字永生概念中,‘复制体’虽不具有肉体,但它继承了逝者的全部心灵内容。对于任何文化来说,都需要重新考虑同一性问题,即数字人是否等同于本人。”周程认为,这一问题将会挑战人们对于生命、死亡以及生活意义的传统认知。
数字生命的主体性问题是另一伦理难点。郑飞认为,当前的虚拟数字人不具有“主体性”,也不具有人格权,但数字永生时代的虚拟数字人具有“主体性”可能。“目前学界普遍认为,只要人工智能体拥有人类智慧特征,具有自主性,能够自我运行、自我学习、推理结果并做出合理决策,它就能够拥有主体资格或至少拥有有限主体资格,并享有一定的人格权。”
由于同一性和主体性的问题,引发更多伦理争议。比如,谁为数字人的不良行为后果承担责任、如何保证数字永生个体的自主权、人们是否有权销毁数字永生复制人等。“针对数字人这一新型法律主体,必然需要为其配备相应的权利义务规范,并使这些规范满足人类社会的基本伦理要求。”郑飞说。
目前,国内外尚未出现针对数字永生的专门伦理规范文件。但周程认为,可以借鉴已经制定的人工智能伦理治理相关准则,作为探讨AI“复活”技术伦理问题的基础。
今年3月,欧洲议会正式通过《人工智能法案》,其中强调构建“可信赖人工智能”。“这启示我们,AI‘复活’应该具有一定的技术稳健性和安全性,确保人类主体的有效监督,使其发展朝着更加安全、负责任和可信赖的方向前进。”周程表示。
数字生命治理不能一蹴而就
“面对数字生命,我们既不能盲目乐观,又不能束手束脚。”周程认为,数字人、数字生命的出现势不可当。“我们要积极做好准备,对相关的伦理风险进行充分评估,创新关于数字生命的治理模式,只有这样做才能拥抱一个更光明的数字未来。”
治理规则的制定需要多方广泛参与。就AI“复活”而言,利益相关方既包括数字生命相关遗嘱的订立者及其亲属,也包括科创企业、互联网企业在内的数字生命的制造者、储存者,以及伦理学家、法律专家、心理学家、政府管理部门和立法机构。只有广泛地、共同地参与新技术的研究和监管,才能达到“风险最小、获利最大”。
数字虚拟人作为新兴行业正在逐渐发展壮大。采访中,多家企业呼吁,“期盼行业标准和规范的出台,更好地引导产业发展”。
记者注意到,目前,AI克隆数字人领域的行业标准尚未明晰,企业行为大多依靠自律。孙凯提到,目前他们会尽可能地做好风险防范工作。“我们在和客户沟通的过程中增加了多道环节,也花费很多资金来保护用户的隐私信息。”
为避免出现“劣币驱逐良币”的现象,孙凯希望相关部门规范行业发展,而不是任其“野蛮生长”。“现在大模型有备案制度,我们也希望能给数字人行业设置一些门槛,具有相关资质才准入。”
目前,我国已先后出台了《互联网信息服务深度合成管理规定》《互联网信息服务算法推荐管理规定》《生成式人工智能服务管理暂行办法》《科技伦理审查处法(试行)》等,为人工智能治理搭建了基本的规范体系,为行业规范划定了一些“红线”。
但郑飞认为,这些“红线”或失之于宽、或失之于软。“失之于宽表现为缺少明确可执行的正负面清单,现有规定过于宽泛化,难以有效界定行为的违法性;失之于软表现为当前针对人工智能治理缺乏上位法规定,现有规范法律强制力不足,宜尽快制定出台人工智能法。”记者了解到,人工智能法草案已遭列入国务院2023年度立法工作计划。
郑飞建议,在法律不断完善的过程中,要注意明确虚拟数字人法律主体性。虚拟数字人包括以动画CG(计算机图形技术)型虚拟数字人为主的“作品型虚拟数字人”、以数字化身和弱AI驱动型虚拟数字人为主的“人格作品型虚拟数字人”,以及以强AI驱动型虚拟数字人为主的“有限主体型虚拟数字人”。“只有强AI驱动型虚拟数字人在未来具有主体性可能,其他类型的虚拟数字人均属于法律客体范畴。”