人工智能时代的法律挑战

习近平总书记在中共中央政治局第九次集体学习上的讲话中强调：“加快发展新一代人工智能是我们赢得全球科技竞争主动权的重要战略抓手，是推动我国科技跨越发展、产业优化升级、生产力整体跃升的重要战略资源。”人工智能是时代之需、发展之要、民生之盼，必须放眼全球，把人工智能发展放在国家战略层面系统布局、主动谋划，牢牢把握人工智能发展新阶段国际竞争的战略主动、打造竞争新优势、开拓发展新空间，有效保障国家安全。
       然而，人工智能的发展在便利社会生活，提高人类福利的同时，也对社会治理、政府监管、社会伦理、法律规范等方面提出了挑战，其中，法律方面的挑战体现在人工智能时代因技术短板、监管漏洞、应用失范等因素而诱发的法律风险以及法律对此所作出的回应是否精准、有效、及时。

人工智能面对的多种挑战

第一，人工智能对法律原则的挑战。平等原则是法律的一项重要原则，体现为对当事人在适用法律上一律平等。人工智能时代，特别是智能机器人的出现对平等原则造成两方面的冲击：一方面是机器人内部间的平等问题。目前，法律主体主要包括自然人、法人和其他组织、国家三类。然而，伴随着人工智能产品拟人化、智能化程度的不断提高，一个不可避免的问题摆在法律面前──应当如何认定智能产品的主体地位。

例如智能机器人是否能够纳入法律主体？若将其纳入法律主体的范畴，权利能力起始和终止时间如何确定？不同类型、不同软件、不同算法、不同智能化程度的机器人是否平等地适用法律？另一方面对原则的冲击则体现为机器人与人类之间的平等问题，即机器人与人类的民事权利能力与民事行为能力是部分平等还是完全平等？机器人是否构成刑事法律主体以及如何承担刑罚问责等问题。

第二，人工智能对产品责任的挑战。关于人工智能产品致人损害的法律责任问题，涉及一系列复杂的责任认定。例如，现行《道路交通安全法》是基于司机人工驾驶的模式设立的，而无人驾驶汽车的发展，势必要经历有人与无人驾驶的过渡阶段，在还有人为介入的情况下，如何在事故中界定责任属于产品的技术漏洞抑或驾驶人员的不当使用？事故中是否涉及算法引起的控制问题，抑或是人工智能系统超越原控制方案的“自身行为”？此外，关于无人驾驶汽车的损害赔偿责任、平台责任、保险类型、数据安全等多个方面，仍然有待于法律作出明确规范。

第三，人工智能对数据安全的挑战。人工智能的大多数应用需要“大数据”支持。在云计算和快速增长的数据量推动下，人工智能已在越来越多的领域得到应用。为执行任务，人工智能要大量地搜集、存储和分析数据。从数据隐私的角度来看，人工智能对数据的大量使用，使得妥善保护数据变得越来越重要。随着人工智能系统越来越多地被整合到基础设施、生产制造、商业运营和日常生活中，在医疗、交通、金融、娱乐、购物、执法等各个领域得到应用，特别是与物联网（IoT）和相关的生物物联网（Bio-IoT）的相互融合，关于个人的基因、面孔、财务、偏好等数据将无处藏匿，无所不在的数据捕获和优化对数据隐私和安全构成了威胁。

应对人工智能发展中面临的法律风险

毫无疑问，人工智能将成为未来经济社会发展的关键力量，也将成为国际竞争的重要领域，我国应当在积极促进和保障人工智能的发展的同时，未雨绸缪地判明人工智能发展中面临的法律风险点，力争在抢抓战略机遇、保持先发优势的同时，化危为机，以法律促进科学的良性发展。

第一，科学立法：构建良善的法律体系。按照国务院《新一代人工智能发展规划》三步走的战略目标要求，“到2020年，人工智能总体技术和应用与世界先进水平同步，部分领域的人工智能伦理规范和政策法规应初步建立。”人工智能的健康发展需要一部反映时代需求的《人工智能法》以及配套法规组成的法律法规体系。同时，也应重视法律与科技发展的辩证关系，现阶段正处在人工智能技术的高速发展期，新兴技术层出不穷，应当制定必要的原则框架，但立法不宜过细，以免制约科技进步。建议秉承着科技引领、系统布局、市场主导、资源开放的原则，大力加强人工智能领域的立法研究，制定相应的法律法规，建立健全公开透明的人工智能监管体系，构建人工智能创新发展的良好法治环境。

第二，精准执法：健全务实的政策支撑体系。首先，明确行业安全标准。根据习近平总书记关于人工智能“安全、可靠、可控”的发展要求，制定并细化行业安全标准，严格推行技术、产品认证制度。对符合标准、通过检测的技术和产品准入投放市场。对已进入流通环节未认证或不达标的技术和产品一律强制退出，并依法、依规明确相关主体责任；其次，加大重点领域管控。

借助大数据分析人工智能领域侵权、犯罪的易发、多发节点，及时升级人工智能设计、应用、流通、推广等关键环节的风险抵御能力，加大对代码、数据、算法等重点领域的综合管控力度，保障技术安全、产品安全、数据安全、应用安全；再次，及时优化调整。建议成立专项政策督察组，常态化监测人工智能产业政策实施状况。按照“谁主管、谁负责、谁出台、谁维护”的原则督促政策制定部门对与形势发展不协调、不配套的政策及时做好法律法规的立、改、废工作，确保法规政策的常用常新、与时俱进，不断满足新一代人工智能的新情况、新需求。

第三，有效司法：构建科学的应对体系。一方面，司法要针对人工智能在法律、安全、就业、道德伦理和政府治理等方面提出的新课题，加强人工智能发展与法治的前瞻性研究，积极构建人工智能未来法治体系，准确把握司法规律与人工智能特征的结合，积极拓展司法应用的空间，使人工智能更好地服务司法，推进司法本身现代化的实现；另一方面，积极进行司法解释，时刻坚守司法作为维护社会公平正义的最后一道防线，明确个人信息和隐私保护、禁止伤害的安全伦理底线保障。
       对于立法尚不明确，而实际案件又不断涌现的人工智能领域，建议通过司法解释为重点问题、突出问题寻得化解矛盾纠纷的办法，为立法工作赢得必要的时间和经验。例如在民事案件处理中，重点解决好人工智能生成内容的权利归属、人工智能损害后果的责任分担；在刑事案件处理中，着力解决人工智能相关犯罪行为的定性和量刑幅度；在知识产权案件处理中，力争解决对算法、芯片等核心技术仿冒、侵权行为的责任赔偿标准等。