人工智能法案

人工智能法案

欧洲联盟法规
全称	人工智能法案
编号	欧洲联盟法规第号
提案者	欧洲议会，理事会
立法历史
欧洲议会投票	2024年3月13日
理事会投票	2024年5月21日
审议阶段文件
欧洲联盟委员会草案	2021/206
现状：正式立法

《人工智能法案》（英语：Artificial Intelligence Act, AI Act）是欧盟关于人工智能 (AI) 的法规。

该项法案由欧盟委员会在2021年4月21日提议，于2024年3月13日获得欧洲议会通过，5月21日获欧盟理事会接受。法案旨在为人工智能引入一个共同的监管和法律框架。除军事用途外，法案范围涵盖所有人工智能类型的范畴。作为监管产品的一部分，它不会赋予个人权利，但会规范人工智能系统的提供者，以及以专业身份使用它们的实体。与欧盟的《欧盟一般资料保护规范》一样，如果来自欧盟以外的提供者在欧盟境内拥有用户，则该法案可以在欧盟外治外法权适用。

它涵盖了广泛领域的所有类型的人工智慧，但仅用于军事、国家安全、研究和非专业目的的人工智慧系统除外。作为产品监管的一部分，它并没有赋予个人权利，而是对人工智慧系统的提供者和在专业环境中使用人工智慧的实体进行监管。 该法案草案进行了修订，以解决生成式人工智慧系统日益普及的问题，例如ChatGPT，其通用功能不适合主要框架。计划对具有系统影响的强大生成人工智慧系统制定更严格的法规。

该法案根据造成伤害的风险对非豁免人工智慧应用进行分类。有四个等级 — 不可接受风险、高风险、有限风险、最小风险 — 加上一个通用人工智慧的附加类别。具有不可接受风险的应用程式将被禁止。高风险应用程式必须遵守安全、透明度和品质义务，并接受合格评定。有限风险应用程式仅具有透明度义务，而最小风险应用程式则不受监管。对于通用人工智慧，施加了透明度要求，并对高效能模型进行了额外评估。

规定

风险类别

根据应用程式的类型，有不同的风险类别，其中一个特定类别专用于通用生成式人工智慧：

• 不可接受的风险 (Unacceptable risk) － 除特定豁免外，此类人工智慧应用被禁止。如果不适用豁免，这包括操纵人类行为的人工智慧应用程式、在公共场所使用即时远端生物特征识别（例如脸部辨识）的人工智慧应用程式以及用于社会评分的应用程式（根据个人特征、社会地位对个人进行排名）。
• 高风险 (High-risk) － 预计会对人们的健康、安全或基本权利构成重大威胁的人工智慧应用。值得注意的是，人工智慧系统用于健康、教育、人才招聘、关键基础设施管理、执法、或司法。它们受到品质、透明度、人工监督和安全义务的约束，并且在某些情况下需要在部署之前进行“基本权利影响评估”。在将它们投放市场之前以及整个生命周期中都必须对其进行评估。高风险应用程式清单可以随著时间的推移而扩展，而无需修改人工智慧法案本身。
• 通用人工智慧 (General-purpose AI) － 于2023年添加，此类别尤其包括ChatGPT等特定基础模型。它们须遵守透明度要求。可能造成系统性风险的高影响力通用人工智慧系统（特别是那些使用超过 10²⁵FLOPS 的运算能力进行训练的系统） 也必须经过彻底的评估过程。
• 有限风险 (Limited risk) — 此类人工智慧系统具有透明度义务，确保用户获悉他们正在与人工智慧系统交互，并允许他们做出明智的选择。例如，此类别的包括可产生或操作影像、声音或视讯（例如深伪技术(Deepfakes)）的 AI 应用程式。在此类别中，开源的免费模型（即其参数是公开可用的）不受监管，但有一些例外。
• 最小风险 (Minimal risk) － 此类别包括例如用于视讯游戏或垃圾电子邮件筛检的人工智慧系统。大多数人工智慧应用预计都属于这一类。 这些系统不受监管，由于最大协调规则，成员国不能施加额外的监管。关于此类系统的设计或使用的现有国家法律被推翻。然而，建议制定自愿行为准则。

豁免

第 2.3 和 2.6 条将用于军事或国家安全目的或纯粹科学研究和开发的人工智慧系统排除在《人工智慧法案》之外。

第 5.2 条仅禁止即时进行的演算法视讯监控。允许即时演算法视讯监控的例外情况包括警务目标，包括“真实且当前或真实且可预见的恐怖攻击威胁”。

该法案第 31 条禁止“公共或私人行为者对自然人进行社会评分的人工智慧系统”，但允许“根据联邦和国家法律为特定目的对自然人进行合法的评估实践”。此豁免解释为允许特定部门的社会评分系统， 例如法国家庭支付机构家庭分配银行使用的怀疑评分。

机构管理

根据 2024 年 3 月 13 日欧洲议会立法决议，《人工智慧法案》第 64 条及以下条款中包括设立各种新机构。这些机构的任务是实施和执行《人工智慧法案》。由于欧盟和国家层面各机构和行为者的相互作用，该方法的特点是集中和分散以及公共和私人执法方面的多维结合。

将设立以下新机构：

• 人工智慧办公室：隶属于欧盟委员会，该机构将协调所有成员国人工智慧法案的实施，并监督通用人工智慧提供者的合规性。
• 欧洲人工智慧委员会：由每个成员国的一名代表组成，委员会将为委员会和成员国提供建议和协助，以促进《人工智慧法案》的一致和有效应用。其任务包括收集和分享技术和监管专业知识、提供建议、书面意见和其他建议。
• 谘询论坛：该论坛的设立是为了向人工智慧委员会和欧盟委员会提供建议和提供技术专业知识，该论坛将代表均衡选择的利益相关者，包括行业、新创企业、中小企业、民间社会和学术界，确保在实施和应用过程中，代表了广泛的意见。
• 独立专家科学小组：该小组将向人工智慧办公室和国家当局提供技术建议和意见，执行通用人工智慧模型的规则（特别是透过向人工智慧办公室发布可能风险的合格警报），并确保规则《人工智慧法案》的实施和实施符合最新的科学发现。

虽然计划在欧盟层级建立新机构，但成员国必须指定“国家主管机关”。.这些当局将负责确保《人工智慧法》的适用和实施，并进行“市场监督”。他们将验证人工智慧系统是否符合法规，特别是透过检查合格评定的适当表现以及指定第三方进行外部合格评定。

参见

• 人工智能
• 人工智能哲学
• 机械人伦理学
• 人工智能宪法