国务院《新一代人工智能发展规划的通知》——法律相关部分摘录

人工智能发展的不确定性带来新挑战。人工智能是影响面广的颠覆性技术,可能带来改变就业结构、冲击法律与社会伦理、侵犯个人隐私、挑战国际关系准则等问题,将对政府管理、经济安全和社会稳定乃至全球治理产生深远影响。在大力发展人工智能的同时,必须高度重视可能带来的安全风险挑战,加强前瞻预防与约束引导,最大限度降低风险,确保人工智能安全、可靠、可控发展。

战略目标:

到2025年人工智能基础理论实现重大突破,部分技术与应用达到世界领先水平,人工智能成为带动我国产业升级和经济转型的主要动力,智能社会建设取得积极进展。

  • ——初步建立人工智能法律法规、伦理规范和政策体系,形成人工智能安全评估和管控能力。

到2030年人工智能理论、技术与应用总体达到世界领先水平,成为世界主要人工智能创新中心,智能经济、智能社会取得明显成效,为跻身创新型国家前列和经济强国奠定重要基础。

  • ——形成一批全球领先的人工智能科技创新和人才培养基地,建成更加完善的人工智能法律法规、伦理规范和政策体系。

重点任务:

  • 开展跨学科探索性研究。推动人工智能与神经科学、认知科学、量子科学、心理学、数学、经济学、社会学等相关基础学科的交叉融合,加强引领人工智能算法、模型发展的数学基础理论研究,重视人工智能法律伦理的基础理论问题研究,支持原创性强、非共识的探索性研究,鼓励科学家自由探索,勇于攻克人工智能前沿科学难题,提出更多原创理论,作出更多原创发现。

推进社会治理智能化:

  • 围绕行政管理、司法管理、城市管理、环境保护等社会治理的热点难点问题,促进人工智能技术应用,推动社会治理现代化。
  • 智能政务。开发适于政府服务与决策的人工智能平台,研制面向开放环境的决策引擎,在复杂社会问题研判、政策评估、风险预警、应急处置等重大战略决策方面推广应用。加强政务信息资源整合和公共需求精准预测,畅通政府与公众的交互渠道。
  • 智慧法庭。建设集审判、人员、数据应用、司法公开和动态监控于一体的智慧法庭数据平台,促进人工智能在证据收集、案例分析、法律文件阅读与分析中的应用,实现法院审判体系和审判能力智能化。

制定促进人工智能发展的法律法规和伦理规范:

  • 加强人工智能相关法律、伦理和社会问题研究,建立保障人工智能健康发展的法律法规和伦理道德框架。开展与人工智能应用相关的民事与刑事责任确认、隐私和产权保护、信息安全利用等法律问题研究,建立追溯和问责制度,明确人工智能法律主体以及相关权利、义务和责任等。
  • 重点围绕自动驾驶、服务机器人等应用基础较好的细分领域,加快研究制定相关安全管理法规,为新技术的快速应用奠定法律基础。开展人工智能行为科学和伦理等问题研究,建立伦理道德多层次判断结构及人机协作的伦理框架。
  • 制定人工智能产品研发设计人员的道德规范和行为守则,加强对人工智能潜在危害与收益的评估,构建人工智能复杂场景下突发事件的解决方案。积极参与人工智能全球治理,加强机器人异化和安全监管等人工智能重大国际共性问题研究,深化在人工智能法律法规、国际规则等方面的国际合作,共同应对全球性挑战。

建立人工智能技术标准和知识产权体系:

  • 加强人工智能标准框架体系研究。
  • 坚持安全性、可用性、互操作性、可追溯性原则,逐步建立并完善人工智能基础共性、互联互通、行业应用、网络安全、隐私保护等技术标准。加快推动无人驾驶、服务机器人等细分应用领域的行业协会和联盟制定相关标准。
  • 鼓励人工智能企业参与或主导制定国际标准,以技术标准“走出去”带动人工智能产品和服务在海外推广应用。加强人工智能领域的知识产权保护,健全人工智能领域技术创新、专利保护与标准化互动支撑机制,促进人工智能创新成果的知识产权化。
  • 建立人工智能公共专利池,促进人工智能新技术的利用与扩散。

建立人工智能安全监管和评估体系:

  • 加强人工智能对国家安全和保密领域影响的研究与评估,完善人、技、物、管配套的安全防护体系,构建人工智能安全监测预警机制。
  • 加强对人工智能技术发展的预测、研判和跟踪研究,坚持问题导向,准确把握技术和产业发展趋势。增强风险意识,重视风险评估和防控,强化前瞻预防和约束引导,近期重点关注对就业的影响,远期重点考虑对社会伦理的影响,确保把人工智能发展规制在安全可控范围内。
  • 建立健全公开透明的人工智能监管体系,实行设计问责和应用监督并重的双层监管结构,实现对人工智能算法设计、产品开发和成果应用等的全流程监管。促进人工智能行业和企业自律,切实加强管理,加大对数据滥用、侵犯个人隐私、违背道德伦理等行为的惩戒力度。
  • 加强人工智能网络安全技术研发,强化人工智能产品和系统网络安全防护。构建动态的人工智能研发应用评估评价机制,围绕人工智能设计、产品和系统的复杂性、风险性、不确定性、可解释性、潜在经济影响等问题,开发系统性的测试方法和指标体系,建设跨领域的人工智能测试平台,推动人工智能安全认证,评估人工智能产品和系统的关键性能。