《人工智能法案 》（英語：Artificial Intelligence Act, AI Act ）是欧盟 關於人工智能 (AI) 的法規。
該項法案由欧盟委员会 在2021年4月21日提议[ 1] 欧洲议会 通過，5月21日获欧盟理事会 接受[ 2] 人工智能 引入一个共同的监管和法律框架[ 3] 歐盟一般資料保護規範 》一樣，如果來自歐盟以外的提供者在歐盟境內擁有用戶，則該法案可以在歐盟外治外法权 適用。
它涵蓋了廣泛領域的所有類型的人工智慧，但僅用於軍事、國家安全、研究和非專業目的的人工智慧系統除外。[ 4] [ 5] 生成式人工智慧 系統日益普及的問題，例如ChatGPT ，其通用功能不適合主要框架。[ 6] [ 7]
該法案根據造成傷害的風險對非豁免 人工智慧應用進行分類。有四個等級 — 不可接受風險、高風險、有限風險、最小風險 — 加上一個通用人工智慧的附加類別。具有不可接受風險的應用程式將被禁止。高風險應用程式必須遵守安全、透明度和品質義務，並接受合格評定。有限風險應用程式僅具有透明度義務，而最小風險應用程式則不受監管。對於通用人工智慧，施加了透明度要求，並對高效能模型進行了額外評估。[ 7] [ 8]
根據應用程式的類型，有不同的風險類別，其中一個特定類別專用於通用生成式人工智慧：
不可接受的風險 (Unacceptable risk) － 除特定豁免外，此類人工智慧應用被禁止。如果不適用豁免，這包括操縱人類行為 的人工智慧應用程式、在公共場所使用即時遠端生物特徵識別 （例如臉部辨識 ）的人工智慧應用程式以及用於社會評分 的應用程式（根據個人特徵、社會地位對個人進行排名）。
高風險 (High-risk) － 預計會對人們的健康、安全或基本權利 構成重大威脅的人工智慧應用。值得注意的是，人工智慧系統用於健康 、教育 、人才招聘、關鍵基礎設施管理、執法 、或司法 。它們受到品質、透明度、人工監督和安全義務的約束，並且在某些情況下需要在部署之前進行「基本權利影響評估」。[ 9] [ 5]
通用人工智慧 (General-purpose AI) － 於2023年添加，此類別尤其包括ChatGPT 等特定基礎模型 。它們須遵守透明度要求。可能造成系統性風險的高影響力通用人工智慧系統（特別是那些使用超過 1025 FLOPS 的運算能力進行訓練的系統）[ 10]
有限風險 (Limited risk) — 此類人工智慧系統具有透明度義務，確保用戶獲悉他們正在與人工智慧系統交互，並允許他們做出明智的選擇。例如，此類別的包括可產生或操作影像、聲音或視訊（例如深伪技术(Deepfakes) [ 8] 開源 的免費模型（即其參數是公開可用的）不受監管，但有一些例外。[ 10] [ 11]
最小風險 (Minimal risk) － 此類別包括例如用於視訊遊戲或垃圾電子郵件篩檢 的人工智慧系統。大多數人工智慧應用預計都屬於這一類。[ 12] 最大協調規則 [ 13]
第 2.3 和 2.6 條將用於軍事 或國家安全 [ 14]
第 5.2 條僅禁止即時進行的演算法視訊監控。允許即時演算法視訊監控的例外情況包括警務目標，包括「真實且當前或真實且可預見的恐怖攻擊威脅」。[ 14]
該法案第 31 條禁止“公共或私人行為者對自然人進行社會評分的人工智慧系統”，但允許“根據聯邦和國家法律為特定目的對自然人進行合法的評估實踐”。此豁免解釋為允許特定部門的社會評分系統，[ 15] 家庭分配銀行 （法语 ） 使用的懷疑評分。[ 16] [ 14]
根據 2024 年 3 月 13 日歐洲議會立法決議，《人工智慧法案》第 64 條及以下條款中包括設立各種新機構。這些機構的任務是實施和執行《人工智慧法案》。由於歐盟和國家層面各機構和行為者的相互作用，該方法的特點是集中和分散以及公共和私人執法方面的多維結合。
將設立以下新機構：[ 17] [ 18]
人工智慧辦公室：隸屬於歐盟委員會 ，該機構將協調所有成員國人工智慧法案的實施，並監督通用人工智慧提供者的合規性。
歐洲人工智慧委員會：由每個成員國的一名代表組成，委員會將為委員會和成員國提供建議和協助，以促進《人工智慧法案》的一致和有效應用。其任務包括收集和分享技術和監管專業知識、提供建議、書面意見和其他建議。
諮詢論壇：該論壇的設立是為了向人工智慧委員會和歐盟委員會 提供建議和提供技術專業知識，該論壇將代表均衡選擇的利益相關者，包括行業、新創企業、中小企業、民間社會和學術界，確保在實施和應用過程中，代表了廣泛的意見。
獨立專家科學小組：該小組將向人工智慧辦公室和國家當局提供技術建議和意見，執行通用人工智慧模型的規則（特別是透過向人工智慧辦公室發布可能風險的合格警報），並確保規則《人工智慧法案》的實施和實施符合最新的科學發現。 雖然計劃在歐盟層級建立新機構，但成員國必須指定「國家主管機關」。.[ 19] [ 20]
^ EUR-Lex - 52021PC0206 - EN - EUR-Lex . eur-lex.europa.eu. [2021-09-07 ] . （原始内容存档 于2021-08-23）. ^ 2021/0106(COD) . EU Law Tracker. [2024-05-27 ] . （原始内容存档 于2024-05-27）. ^ Proposal for a Regulation laying down harmonised rules on artificial intelligence | Shaping Europe's digital future . digital-strategy.ec.europa.eu. [2023-01-09 ] . （原始内容存档 于2023-01-04） （英语） . ^ Artificial intelligence act: Council and Parliament strike a deal on the first rules for AI in the world . Council of the EU. 9 December 2023 [January 6, 2024] . （原始内容存档 于10 January 2024）. ^ 5.0 5.1 Mueller, Benjamin. The Artificial Intelligence Act: A Quick Explainer . Center for Data Innovation. 2021-05-04 [2024-01-06 ] . （原始内容存档 于14 October 2022） （美国英语） . ^ Coulter, Martin. What is the EU AI Act and when will regulation come into effect? . Reuters. December 7, 2023 [11 January 2024] . （原始内容存档 于10 December 2023）. ^ 7.0 7.1 Espinoza, Javier. EU agrees landmark rules on artificial intelligence . Financial Times. December 9, 2023 [2024-01-06 ] . （原始内容存档 于29 December 2023）. ^ 8.0 8.1 EU AI Act: first regulation on artificial intelligence . European Parliament News. [2024-01-06 ] . （原始内容存档 于10 January 2024） （英语） . ^ Mantelero, Alessandro, Beyond Data. Human Rights, Ethical and Social Impact Assessment in AI, Information Technology and Law Series 36 , The Hague: Springer-T.M.C. Asser Press, 2022, ISBN 978-94-6265-533-1doi:10.1007/978-94-6265-531-7 ^ 10.0 10.1 Bertuzzi, Luca. AI Act: EU policymakers nail down rules on AI models, butt heads on law enforcement . Euractiv. 2023-12-07 [2024-01-06 ] . （原始内容存档 于8 January 2024） （英国英语） . ^ Regulating Chatbots and Deepfakes . mhc.ie. Mason Hayes & Curran. [11 January 2024] . （原始内容存档 于9 January 2024） （英语） . ^ Liboreiro, Jorge. ' Higher risk, stricter rules': EU's new artificial intelligence rules [2024-01-06 ] . （原始内容存档 于6 January 2024） （英语） . ^ Veale, Michael. Demystifying the Draft EU Artificial Intelligence Act. Computer Law Review International. 2021, 22 (4). S2CID 241559535 arXiv:2107.03721 doi:10.31235/osf.io/38p5f ^ 14.0 14.1 14.2 With the AI Act adopted, the techno-solutionist gold-rush can continue , La Quadrature du Net, 2024-05-22, Wikidata Q126064181 , （原始内容存档 于23 May 2024） （英语） ^ European Parliament legislative resolution of 13 March 2024 on the proposal for a regulation of the European Parliament and of the Council on laying down harmonised rules on Artificial Intelligence (Artificial Intelligence Act) and amending certain Union Legislative Acts (COM(2021)0206 – C9-0146/2021 – 2021/0106(COD)) . [24 May 2024] . （原始内容存档 于21 May 2024）. ^ Notation des allocataires : la CAF étend sa surveillance à l'analyse des revenus en temps réel , La Quadrature du Net, 2024-03-13, Wikidata Q126066451 , （原始内容存档 于1 April 2024） （法语） ^ Bertuzzi, Luca. EU lawmakers to discuss AI rulebook's revised governance structure . Euractiv. November 21, 2023 [18 April 2024] . （原始内容存档 于22 May 2024）. ^ Friedl, Paul; Gasiola, Gustavo Gil. Examining the EU's Artificial Intelligence Act . Verfassungsblog. 2024-02-07 [16 April 2024] . （原始内容存档 于22 May 2024） （英国英语） . ^ Artificial Intelligence Act . European Parliament. 13 March 2024 [18 April 2024] . （原始内容存档 于18 April 2024）. ^ Artificial Intelligence – Questions and Answers . European Commission. 12 December 2023 [2024-04-17 ] . （原始内容存档 于6 April 2024）.
_artificial_intelligence_icon.png){kind=icon}
