编者按：当前，人工智能高速发展，深刻改变着世界。人类在享受人工智能红利的同时，也面临一些挑战，因此需要对此加以规制。世界各国正在开始加强人工智能的立法，我国的立法探索开始较早，但是仍未达到人工智能立法体系化，不能适应新的形势。基于此，笔者对人工智能立法进行了梳理，并提出了几点建议。笔者会持续关注人工智能和行业发展，也会继续研究人工智能立法和司法现状，敬请人工智能领域高科技企业、使用人工智能技术从事经营活动的企业与笔者联系，共同探讨人工智能涉诉风险及企业合规风控事宜。
自1956年的达特茅斯学会提出“人工智能”后，这一新兴科技就开启了发展之路。在经历了孕育期、摇篮期、形成期、发展期和实用期之后，终于进入到了稳步增长期[1]。人工智能技术方兴未艾，对社会生产生活逐渐显示出越来越大的影响力。2016年3月9日，一家名为DeepMind的英国公司设计的软件AlphaGo战胜了围棋世界冠军李世石，这一定让大家记忆犹新。而近年来，ChatGTP软件的突然问世，更刷新了大众的认知。但是，随之而来的是伦理、道德、法律的挑战，以及人工智能全球治理的难题。一旦治理不当，影响堪比核武器扩散带来的危险，可能更甚。诚如美国华盛顿大学佩德罗.多明戈斯所说：根据好莱坞电影，人类的未来将会被庞大的人工智能及其大量的机器小兵扼杀（当然，除非有一位有胆量的大英雄在电影最后5分钟挽回了局面）。谷歌已经拥有这样的人工智能所需要的庞大硬件，而且最近已经由一些机器人创业公司来运行了。如果我们将终极算法置入其服务器，那么人类会毁灭吗？当然会。[2]
让人欣慰的是，2024年7月1日，第七十八届联合国大会协商一致通过中国主提的加强人工智能能力建设国际合作决议，140多国参加决议联署。这显示出国际社会对于人工智能全球治理的高度重视，同时也凸显了中国的积极态度和国际话语权。基于此背景，笔者尝试研究国内人工智能的治理现状，并提出一些建议，希望能对我国人工智能立法贡献来自法律实务届的力量。
一、《新一代人工智能发展规划》提纲挈领
2017年7月8日，国务院印发《新一代人工智能发展规划》。这份政策性文件阐述了人工智能对于社会生活和世界的深刻影响，把对人工智能的重视程度提高到了党中央、国务院战略部署的高度，提出了人工智能发展的战略态势、总体要求、重点任务、资源配置和保障措施。其中，在总体要求、重点任务和保障措施三大部分均提到了法律法规、伦理道德。尤其是在总体要求部分的战略目标中，明确提出了人工智能相关立法的规划：到2020年，“部分领域的人工智能伦理规范和政策法规初步建立”；到2025年，“初步建立人工智能法律法规、伦理规范和政策体系，形成人工智能安全评估和管控能力”；到2030年，“建成更加完善的人工智能法律法规、伦理规范和政策体系”。而在保障措施部分，则提出制定促进人工智能发展的法律法规和伦理规范。也就是通过法律和伦理道德的规范，使得人工智能进入健康发展的轨道。同时，明确具体提出了开展与人工智能应用相关的民事与刑事责任确认、隐私和产权保护、信息安全利用等法律问题研究，建立追溯和问责制度，明确人工智能法律主体及相关权利、义务和责任等。以上，不但为未来人工智能立法提出了明确的规划，也为人工智能的伦理道德规范建设指明了方向。
二、立法与伦理规范、技术规范（国家标准）建设同步
本文的立法的含义，涵盖全国人大及其常委会制定的法律、国务院制定的行政法规、地方人大制定的地方性法规以及国家各部委制定的行政规章、地方政府制定的地方性规章。从目前来看，全国人大及其常委会尚未就人工智能制定法律，国务院也未制定相关行政法规。当然，根据我国立法惯例，通常先由国家部委制定规章，然后再由全国人大制定法律，国务院根据法律中的授权条款，制定相应的行政法规。因此，目前没有制定法律、行政法规也属情理之中。况且，人工智能技术方兴未艾，发展空间广阔，存在很多不确定性，对于相关问题的深入研究尚在进行，因此也需要时间。
但是，国务院部分部委和部分地方已经开始对人工智能进行立法的尝试和探索。2022年11月25日，《互联网信息服务深度合成管理规定》由国家互联网信息办公室2022年第21次室务会议审议通过，并经工业和信息化部、公安部同意予以公布，并于2023年1月10日起施行。2023年5月23日，《生成式人工智能服务管理暂行办法》经国家互联网信息办公室2023年第12次室务会会议审议通过，并经国家发展和改革委员会、教育部、科学技术部、工业和信息化部、公安部、国家广播电视总局同意予以公布，并自2023年8月15日起施行。这是国务院多部门联合制定的、中国两部涉及人工智能的部门规章，也是全世界最早开始实施的人工智能立法。反观国外，少有人工智能的专门立法。欧盟《人工智能法案》虽然于2024年3月13日由欧洲议会表决通过，并于2024年5月21日，由欧盟理事会正式批准，但目前尚未正式实施。
除了上述规章之外，我国一些地方也进行了立法探索。2022年9月上海发布《上海市促进人工智能产业发展条例》，明确定义了人工智能和人工智能产业。规定了设立伦理专家委员会。对高风险的人工智能产品和服务实行清单式管理，遵循必要、正当、可控等原则进行合规审查。对中低风险的人工智能产品和服务采用事前披露和事后控制的治理模式，促进先行先试，实际上采取了分级分类治理的思路。禁止相关主体开展危害国家安全和社会安全、危及人身或安全、个人隐私和个人信息权益、歧视性服务、消费欺诈、垄断、不正当竞争、违反法律法规和公序良俗的行为；2022年11月，《深圳经济特区人工智能产业促进条例》正式施行，与上海相同，规定设立市人工智能伦理委员会。根据人工智能应用的风险等级、应用场景、影响范围等具体情境，实施分级、分类差异化监管，完善人工智能领域监管机制。除规定禁止相关主体开展危害国家安全和社会安全、危及人身或安全、个人隐私、违反法律法规等行为外，还规定禁止违反伦理安全规范。
与立法同时开展的关于人工智能治理或规范的工作，还有相关伦理规范和技术规范（国家标准）的制定。伦理规范如：2019年6月17日，国家新一代人工智能治理专业委员会发布了《新一代人工智能治理原则——发展负责任的人工智能》，提出了发展人工智能的总原则——发展负责任的人工智能。《治理原则》旨在更好协调人工智能发展与治理的关系，确保人工智能安全可控可靠，推动经济、社会及生态可持续发展，共建人类命运共同体。《治理原则》突出了发展负责任的人工智能这一主题，强调了和谐友好、公平公正、包容共享、尊重隐私、安全可控、共担责任、开放协作、敏捷治理等八条原则。2021年9月25日，国家新一代人工智能治理专业委员会公布施行了《新一代人工智能伦理规范》，而该部文件也与2023年10月习近平主席在第三届“一带一路”国际合作高峰论坛开幕式主旨演讲中提出的《全球人工智能治理倡议》，以及上文提到的中国主提的加强人工智能能力建设国际合作决议核心要义一致。
技术规范方面有：国家药品监督管理局于2022年8月17日发布，并于2023年9月1日实施的《人工智能医疗器械 肺部影像辅助分析软件 算法性能测试方法》及《人工智能医疗器械 质量要求和评价 第3部分：数据标注通用要求》；国家药品监督管理局于2022年7月1日发布，并于2023年7月1日实施的《人工智能医疗器械 质量要求和评价 第2部分：数据集通用要求》；2019年8月1日，科技部发布的《国家新一代人工智能开放创新平台建设工作指引》；国家市场监督管理总局、国家标准化管理委员会于2022年10月12日发布并于2023年5月1日实施的《信息技术 人工智能 平台计算资源规范》。
除以上之外，还有最高法院的技术规范以及部分部委的函或者通知。如：2022年12月8日，最高人民法院发布实施的《最高人民法院关于规范和加强人工智能司法应用的意见》；2020年1月23日，科技部向陕西省人民政府回函《科技部关于支持西安建设国家新一代人工智能创新发展试验区的函》；2020年6月24日，住房和城乡建设部给深圳市住房和建设局回函《住房和城乡建设部办公厅关于同意深圳市开展建筑工程人工智能审图试点的复函》2021年3月9日，国家广电总局办公厅发布的《国家广播电视总局办公厅关于举办首届广播电视和网络视听人工智能应用创新大赛（MediaAIAC）的通知》；2021年9月7日，教育部发布的《教育部关于实施第二批人工智能助推教师队伍建设行动试点工作的通知》等等。
三、相关治理规范内容单一、缺乏强制力
从笔者梳理的以上情况可以看到，相关规范文件的制定涉及国家多个部委，具体是：国家药品监督管理局、国家互联网信息办公室、国家发展和改革委员会、教育部、科学技术部、工业和信息化部、公安部、国家广播电视总局、国家市场监督管理总局、国家标准化管理委员会等等。从形式上看，有管理规定、暂行管理办法、伦理规范、质量要求和评价、测试方法、意见、函、通知。从规范内容来看，伦理规范系侧重于从宏观上对人工智能发展进行原则性规定，两部规章均是从生成式人工智能的监管角度进行规范，两部地方性法规相对全面，但是绝大部分是关于促进人工智能产业发展的条款，尚不够细化，缺乏权利义务的具体明确规定。很多规范条文较少，如部门规章《生成式人工智能服务管理暂行办法》，全文仅二十四条，仅对生成式人工智能服务进行了管理规范，而未包括其他类型的人工智能。
强制效力方面，如上所述，我国尚未制定人工智能法律、行政法规。《新一代人工智能发展规划》虽然是国务院发布，但是属于政策性文件，并非行政法规，最高法院的《意见》也并非司法解释，属于司法政策，且属于司法系统采用人工智能技术的自我规范。规定的内容多为原则性，如上海市和深圳市人民代表大会常务委员会通过的条例，在法律责任部分的规定较少，强制效力较弱。
四、相关立法建议
可以看到，人工智能立法尚处于初级阶段，已经不能适应社会发展的需要。尤其是当前人工智能技术的快速发展，已经导致越来越多的现实纠纷产生。法院在处理此类民事纠纷过程中，一般会基于我国立法的现状，根据具体情况参照适用《民法典》、《网络安全法》、《数据安全法》、《个人信息保护法》以及《生成式人工智能服务管理暂行办法》等进行裁判。但是随着技术的发展，很多问题需要精细化立法，一部统一的人工智能法的制定已经势在必行。
基于此，笔者提出以下立法建议：
第一，应由全国人民代表大会依据宪法制定《人工智能法》。如上所述，人工智能影响生产生活的方方面面，深刻改变了世界，是又一次的科技革命，因此应该用更高位阶的法律予以规制。显而易见的是，人工智能相关法律规范需要规制的除了隐私权、身体权等宪法性基本人权之外，还涉及维护国家安全、防止算法歧视、技术垄断、诱导犯罪和保护知识产权等方方面面，涉及不同领域和不同部门法调整范围，因此是一部综合性的法律。笔者以为，考虑到人工智能法的重要性，立法的规格也应更高，因此建议由全国人民代表大会制定。
第二，增强强制效力，使人工智能立法由“软法”变为“硬法”。笔者注意到，继2023年之后，2024年5月，在国务院印发《国务院2024年度立法工作计划》中，人工智能法草案再次被列入预备提请全国人大常委会审议项目，因此，人工智能法律的制定，已经提上日程。但是，国务院的立法计划将本部法律放在了“围绕实施科教兴国、文化强国战略”中，可见目前的立法草案可能更多倾向于保障和促进人工智能技术和相关行业健康发展。同时，观察上海市和深圳市的立法，地方的立法探索也是以促进产业发展为主要内容。对此，笔者建议，可以在重点保障人工智能行业健康发展的同时，关注人工智能技术带来的社会、伦理、安全的挑战，以及对于人们生活方式、社会生产关系带来的变革，增加相应主体权利义务的规定。另外，应当细化法律责任的相关条款，增强本部法律的强制效力。
第三，由于人工智能的特殊性，和未来发展的不确定性，对于技术发展的伦理规范十分必要。尤其要避免机器人与人类为敌甚至屠杀人类、奴役人类的极端情况；也要避免机器人完全自动化（也即要设立人工干预原则）和自动繁殖（届时，机器人是否属于生命体将从伪命题变为可争议的议题）；随着人工智能的高度发达，还有很多无法想象的事情能够实现，人类意识（或者大脑、记忆）将可能永生，人们的亲人将有可能通过预先提取的DNA或者大脑意识置入芯片并通过激活私人订制的机械体方式复活，这样的技术也是应该通过伦理委员会予以审查和管控的，因为这关乎人类的基本伦理和尊严。我建议参考上海市和深圳经济特区的立法经验，规定设立人工智能伦理委员会，并明确其职责定位，使人工智能技术的发展安全、可控、向善，始终尊重人类普世价值，并符合我国社会主义核心价值观。
第四，关于人工智能的立法模式，有人建议借鉴民法典的立法经验，以“总则式”为框架体例，以“廓主线”为主要内容，以“留接口”解决容量问题。如中国政法大学数据法治研究院博士生导师、人工智能立法牵头人张凌寒。而有人则建议小步走不停，如中国法学会立法学研究会顾问、北京大学法律人工智能研究中心顾问高绍林，他提出应当对网络、数据、算法、算力、应用这五大基础领域全面加强立法工作，积极稳步审慎推进人工智能立法治理。他认为，全国人大常委会先后制定了网络安全法、数据安全法、个人信息保护法、电子商务法、电子签名法、反垄断法、反不正当竞争法等法律，正在起草电信法、网络犯罪防治法等法律。国务院制定了政府信息公开条例等行政法规。国务院有关部门制发了互联网信息服务算法推荐管理规定、生成式人工智能服务管理暂行办法，这些是我国人工智能立法小步走不停的具体体现。笔者认为，前述两种观点有相同之处，都认为人工智能立法不是一部法律能解决的，而是要分步进行。但是也有明显不同，前者明确了采用“总、分则”的方式进行立法，先有总则后有分则。而后者采用的是直接分而治之，采用分则立法的方式，对人工智能各个基础领域分别立法，以达到总体的治理目的。
对此，笔者更认可张凌寒教授的意见，原因有两点：一是因为从国家战略层面，国务院《新一代人工智能发展规划》提出，我国应在到2030年建成更加完善的人工智能法律法规、伦理规范和政策体系，距今已不足六年，人工智能立法需要规制的范围广、涉及领域多，如果分步进行，很难在短时间内形成较为完善的法律法规体系。但是如果采用总则式立法则不同，正如民法典制定前的民法总则的立法，实际上该部法律已经形成了较为完善的民事法律体系，所以笔者建议采用总则式立法模式，先出台一部人工智能法，然后根据现实需要，再制定分门别类的人工智能相关立法，尽早完成人工智能立法体系化的国家战略；二是因为采用总则式立法，更符合客观需要。当前，人工智能核心产业规模已超5000亿元，企业数量超过4300家，正在形成从基础支撑、核心技术到行业应有的产业链条，不断促进企业突破既有生产边界，向产业链上、下游延伸、拓展，推动中端设备产品及服务的智能化。技术和产业的迅猛发展，势必导致生产生活方式加速巨变，如果采用小步走的立法模式，很难跟上社会变革的步伐，而采用总则式立法，从立法技术和现实考量来说，事半功倍，是当前最优的选择。
注释：
[1] 武军超：《人工智能》，天津科学技术出版社2019年9月第1版第1次印刷，P2-P7。
[2] [美]佩德罗.多明戈斯：《终极算法 机器学习和人工智能如何重塑世界》，中信出版集团2017年1月第1版，P360。