斯坦福大学发布最新AI形势报告（2024）第七章：Policy and Governance

最新推荐文章于 2025-06-29 10:08:22 发布

原创

最新推荐文章于 2025-06-29 10:08:22 发布 · 置顶 · 2.1k 阅读

9 ·

CC 4.0 BY-SA版权

文章标签：

#人工智能 #论文阅读 #形势报告

在这里插入图片描述

原文地址

摘要

人工智能日益增强的能力引起了政策制定者的注意。在过去的一年里，一些国家和政治机构，如美国和欧盟，已经制定了重要的人工智能相关政策。这些政策的激增反映出政策制定者越来越意识到需要监管人工智能，并提高各自国家利用其变革潜力的能力。本章从2023年重大人工智能政策制定事件的时间轴开始研究全球人工智能治理。然后，它分析了全球和美国的人工智能立法工作，研究了人工智能立法提及，并探讨了地球仪的立法者如何看待和讨论人工智能。接下来，本章介绍了美国和欧盟的国家人工智能战略和监管工作。最后，它总结了美国对人工智能的公共投资研究。

Chapter Highlights

美国的AI法规数量急剧增加。在过去一年和过去五年中，美国与人工智能相关的法规数量显著增加。2023年，与人工智能相关的法规有25项，而2016年只有一项。仅去年一年，与人工智能相关的法规总量就增长了56.3%。
美国和欧盟推进具有里程碑意义的人工智能政策行动。2023年，大西洋两岸的政策制定者都提出了实质性的AI监管建议。欧盟就《人工智能法》的条款达成协议，这是2024年颁布的一项具有里程碑意义的立法。与此同时，拜登总统签署了一项关于人工智能的行政命令，这是当年美国最引人注目的人工智能政策倡议。
AI吸引了美国决策者的注意力。2023年，联邦层面与人工智能相关的立法显著增加，共提出181项法案，比2022年提出的88项法案增加了一倍多。
地球仪各地的政策制定者都在不停地谈论人工智能。地球仪立法程序中提到人工智能的次数几乎翻了一番，从2022年的1,247次上升到2023年的2,175次。AI在2023年有49个国家的立法程序中被提及。此外，2023年，各大洲至少有一个国家讨论了人工智能，凸显了人工智能政策话语的真正全球影响力。
更多监管机构将注意力转向AI。发布人工智能监管规定的美国监管机构从2022年的17家增至2023年的21家，这表明在更广泛的美国监管机构中，对人工智能监管的担忧与日俱增。2023年首次颁布AI相关法规的一些新监管机构包括交通部、能源部和职业安全与健康管理局。

7.1 2023年人工智能政策概览

本章首先概述了人工智能指数指导委员会选出的2023年一些最重要的人工智能相关政策事件。

2023.01.10
中国出台互联网深度综合管理规定
中国出台了针对“深度合成”技术的法规，以解决与创建真实虚拟实体和多模式媒体相关的安全问题，包括“深度伪造”。这些法规适用于不同媒体的提供商和用户，并规定了一些措施，例如防止非法内容、遵守法律的合规性、验证用户身份、确保生物识别编辑的同意、保护数据安全以及强制执行内容审核。
在这里插入图片描述

2023.03.22
美国立法者提出AI国家安全法案
这项立法澄清并巩固了国防部（DoD）获得基于AI的端点安全工具的权力，增强了其网络防御能力。它旨在使国防部能够利用人工智能自动检测和缓解对其网络和数字基础设施的威胁。这一两党倡议确保国防部能够采用创新的商业技术来加强其网络防御，与对手的步伐相匹配。
在这里插入图片描述

2023.05.11
美国政策制定者推出AI领导力培训法案
该立法旨在提高联邦领导人的人工智能素养，以应对人工智能在政府机构中的广泛采用。它授权人事管理办公室（OPM）主任创建并定期更新人工智能培训计划，促进联邦政府内负责任和道德的人工智能使用。在以前法律的基础上，该计划将人工智能培训扩大到包括参与采购供政府使用的人工智能技术的联邦雇员。
在这里插入图片描述

2023.06.20
美国政策制定者提出《国家人工智能委员会法案》
《国家人工智能委员会法》要求建立一个国家人工智能委员会，负责制定一个全面的人工智能监管框架。由于人工智能的快速创新和复杂性，这项两党倡议强调了专家投入的重要性，重点是降低风险，保持美国在人工智能研究和开发方面的领导地位，并确保与美国价值观的一致性。
在这里插入图片描述

2023.07.06
众议院通过《未来工作法案》
该法案支持一项研究，以评估人工智能预计将增长的行业和职业，评估其对工人技能或潜在替代品的影响，检查利益相关者的影响机会，确定受影响最大的人口统计数据，评估所需的技能和教育，审查数据可访问性，调查有效的技能交付方法，并探索学术机构在提供关键培训方面的作用。
在这里插入图片描述

2023.07.06
美国参议院通过《人工智能和生物安全风险评估法案》
该法案授权负责准备和响应的助理部长评估和解决人工智能技术进步对公共卫生和国家安全的威胁。它强调评估人工智能的潜在用途，包括开源模型，用于开发有害代理。拟议的举措包括监测全球生物风险和将风险评估摘要纳入国家卫生安全战略。
在这里插入图片描述

2023.07.21
私人AI实验室签署自愿白宫AI承诺
贝索斯-哈里斯政府获得了七家主要人工智能公司的自愿承诺-谷歌，微软，Meta，亚马逊，OpenAI，Anthropic和Inflection-以促进安全，可靠和可靠的人工智能的发展。这些承诺包括在发布前对人工智能系统进行内部和外部安全评估，共享已识别风险的信息，允许公开报告问题，以及在内容由人工智能生成时进行披露。
在这里插入图片描述

2023.07.25
美国参议院通过《投资透明度法案》
该计划旨在审查美国在关键领域的投资，特别是涉及中国的投资，重点是评估影响国家安全的关键行业和技术（如人工智能）的风险。其目的是提高人们对外国在这些领域获得美国技术的潜在脆弱性和风险的认识。
在这里插入图片描述

2023.07.27
美国参议院提出《创建人工智能法案》
《创建人工智能法案》建立了国家人工智能研究资源（NAIRR），这是一个国家研究基础设施，旨在改善人工智能研究人员和学生获得必要资源的机会。NAIRR提供计算，策划数据集，教育工具和AI测试平台。它旨在通过支持人工智能系统的测试和评估来加强国家的人工智能研究能力。
在这里插入图片描述

2023.08.15
中国更新了生成人工智能措施的网络空间管理
中国的最新政策采取了更有针对性的监管方式，重点关注具有公众影响的应用，而不是全面监管。修正案软化了监管语言，将“确保数据的真实性，准确性，客观性和多样性”等指令更改为“采取有效措施提高训练数据的质量，并提高其真实性，准确性，客观性和多样性”。此外，修订后的法规鼓励生成性人工智能的发展，从以前的惩罚重点转移。
在这里插入图片描述