现在人工智能的确是讨论的热点,过去两周当中,我自己参加了大概十场会议,主题全部围绕人工智能。我们每个人都在谈论人工智能,这有点像马克·吐温说的:每个人都谈论天气,但也不知道能够对天气做点什么。但今天,关于人工智能,我觉得我们或许确实可以有所作为。
我今天要谈的问题,有点像谈天气,可能真的像谈天气,因为人工智能立法的统分缓急之争已经持续很久。人工智能立法如今看起来已箭在弦上。今年5月,国务院年度立法工作计划中明确提出“完善人工智能治理,加快推进人工智能健康发展综合性立法”。现在学界的解读,包括中央在行动层面的措施,都是落在最后一个关键词上——综合性立法。如果分解这句话,我认为它由四个关键词构成:第一是“综合性立法”,第二是“健康发展”,第三是“加快推进”,第四,也是最容易被忽略的,是开头的“完善人工智能治理”。
实际中,这四个关键词往往被解读落在“综合性立法”上。首先,我们需要认真去思考什么是综合性立法?关于“综合”,我想可以从三个方面来理解:
第一是形式上的综合性。这里的统分之争,在于是否要制定一部comprehensive code—— 像民法、环境法法典化那样?学界目前基本都不是这么认为的。所以形式上的统分之问是一个伪问题,无需再讨论。我们不是要制定一部无所不包的完整法典,而是进行框架性立法。
第二是内容上的综合性。人工智能不是单一存在,而是由众多要素构成,如数据、算法、算力、网络以及各种场景应用。从产业链条看,它涵盖研发、训练、部署、运行、使用、评估、退出等全生命周期环节。从主体关系看,开发者、训练者、部署者、运行者、终端使用者之间的法律关系也多种多样。正因为链条很长、要素很多、主体多元,这部立法实际上要处理要素之间的连接关系,以及链条不同节点之间的风险传导效应与累积效应—— 某个环节单独看可能没有风险,但风险会传导到下一环节,并在不断传导中放大累积。综合立法在这个意义上,正是要打破各部门碎片化、只顾及本部门本节点的立法局限,建立全局视野的治理框架。因此,它在内容上应覆盖全要素、全流程,但不去提供高度细密的规则,而是搭建包含要素、链条、主体的治理框架。
第三是功能上的综合性。综合性立法实际上是要体现功能上的复合性,而非单一功能。我们过去常讲“统筹安全与发展”,但这句话放在立法层面几乎等于没说。在具体的制度设计层面,人工智能的框架性立法无非解决两件事:一是建立有效的风险治理框架,二是建立发展促进框架。这正是把“统筹安全与发展” 分解为制度上可操作的目标。
所以在这个意义上,今天讲的人工智能立法的统分之问基本上解决了。但是具体内容怎么做,现有研究基本上都没有展开。
第二个问题,“健康发展”到底是什么意思?我认为“健康” 与“发展” 是两个倾向不同、侧重点不同的概念。人工智能的“健康”主要指如何做好风险控制,把风险控制在可接受的水平。就像人要保持健康,需要均衡饮食,但谁也不会完全照做,健康不是完全没有风险,而是把风险控制在可接受的程度。人工智能也是如此,健康发展不是追求零风险。法律层面的健康,主要在于把风险的识别机制、分类机制和控制工具搞清楚,因此这部法律必须包含一套风险治理结构。同时,风险的类型也不一样,研发风险与落地应用的风险并不相同。研发本身存在风险,但只要尚未投入使用,其风险与现实应用中的具体风险是有差别的,风险判定和治理机制也应有所区分。比如超级AI的研发风险,美国就存在 “绝对不准研发” 的悲观主义主张。而发展,则是指对人工智能的技术研发、产业落地、场景应用提供组织、人员、资金、政策上的支持。所以综合立法从工具箱看就两类:一类是风险规制的工具箱,另一类是产业促进的政策工具箱。
第三个问题更具争议,加快推进是什么意思?如果“加快” 只问速度,那么“加快”很可能与“健康”产生直接冲突。有学者用 “国际竞争窗口期越来越窄” 来论证加快的必要,但何以知道明天中美竞争的格局会怎样、人工智能技术又会出现什么重大发展?为什么是窗口期越来越窄,而不是越来越宽?至于科林格里奇困境,这并不是用来解决这个问题的,它讲的其实是信息困境与权力困境:新技术刚出现时我们不了解,因而不去治理;但它不断嵌入整个社会网络,等你回头治理时,它已拥有了“power”,你未必治得了。这是早期信息不足、晚期能力不足的持续性困境,并不会因为出台人工智能立法而消失,因为技术嵌入社会所放大的权力,反而可能使困境进一步加大。
最后,回到根本。无论综合性立法、健康发展还是加快推进,最终都要回到人工智能治理体系的完善上来—— 治理体系与治理能力的完善,这才是我们进行立法的目的。它不是一句修辞,而是一个目的。中国需要的不是一部“人工智能法”,而是“人工智能治理法”,回到完善人工智能治理体系、提升我们在这一领域的竞争力与治理能力上来。我就汇报这些,谢谢大家。