歐盟人工智能法案是一項具有里程碑意義的法規，代表著人工智能技術的法律治理邁出了重要一步。該法案由歐盟委員會于2021年4月提出，并于2023年12月獲得歐洲議會和歐洲理事會的同意，于2024年3月13日獲得批準，并于2024年8月1日生效。

盡管被貼上“法案”的標簽，但事實上，它是一項歐盟法規(法規EU 2024/1689)。該法案旨在解決公民健康、安全和基本權利的潛在風險，促進歐盟負責任的人工智能開發和部署。它為開發者和部署者提供了關于AI特定用途的明確要求和義務，同時減輕了企業的管理和財務負擔。

AI法案在所有歐盟國家引入了一個統一的框架，基于AI的前瞻性定義和基于風險的方法:

最小風險 Minimal risk: 

大多數人工智能系統，如垃圾郵件過濾器和人工智能視頻游戲，在人工智能法案下都沒有義務，但公司可以自愿采用額外的行為準則。

特定的透明度風險Specific transparency risk :

聊天機器人等系統必須明確告知用戶，他們正在與一臺機器互動，而某些人工智能生成的內容必須貼上標簽。

高風險 High risk:

基于人工智能的醫療軟件或用于招聘的人工智能系統等高風險人工智能系統必須符合嚴格的要求，包括風險緩解系統、高質量的數據集、清晰的用戶信息、人工監督等。

不可接受的風險 Unacceptable risk:

例如，允許政府或公司進行“社會評分”的AI系統被認為是對人的基本權利的明顯威脅，因此被禁止。

分階段實施時間表：

• 2025年2月2日：一般規定和禁令規定開始適用。

• 2025年8月2日：關于政府當局架構和公告機構規定、通用AI模型提供者的規定、相關責罰開始適用。

• 2026年8月2日：大部分條款開始普遍適用，包括對高風險AI系統的一些義務，但一些義務將從2027年8月2日起適用。

• 2027年8月2日：高風險AI系統的一些義務開始適用，特別是那些受其他歐盟立法監管的產品的安全組件。

對于數字醫療產品，重點主要是高風險人工智能系統，包括受歐盟MDR/IVDR管制的醫療設備中使用的系統。

對高風險人工智能系統的要求:

這些包括嚴格的合規義務，如風險管理、數據治理、透明度和人工監督。屬于高風險人工智能系統的數字醫療產品必須遵守這些要求。

適用性和地域范圍:

《人工智能法》適用于將人工智能系統投放到歐盟市場的提供商、歐盟內部的用戶以及外部提供商/用戶(如果他們的人工智能系統產品在歐盟使用)。這種域外延伸類似于GDPR。

事件報告和上市后監控:

高風險人工智能系統(包括醫療產品中使用的系統)的開發商必須建立嚴重事件報告系統，并進行持續的上市后監控。

高風險人工智能系統的技術文檔：

要求提供的技術文檔非常全面，比美國FDA批準AI/ML醫療器械所需的文件要多得多，尤其是那些通過510(k)或Novo pathways批準的中度風險醫療器械。

技術文檔包括人工智能系統元素的詳細描述及其開發過程，包括：

*設計規范；

*系統架構；

*關鍵設計選擇及其基本原理和假設；

*數據要求；

*培訓方法；

*用于開發、訓練和驗證人工智能系統的計算資源；

*驗證和測試程序；和

*性能指標。

因此，包含人工智能系統的受監管數字醫療產品除了提供歐盟MDR/IVD技術文檔外，還需要提供人工智能系統所需的附錄IV技術文檔。

因此，我們預計醫療器械制造商將依據第11(2)條，利用其受管制產品的歐盟MDR/IVDR技術文件系統，并通過附加附錄IV信息來擴展AI系統或子系統的文件。一個擔憂是，人工智能系統的高門檻文件要求可能對新進入者不利。《歐盟人工智能法案》試圖通過讓中小企業(包括初創企業)提供簡化的技術文件來解決這一問題，該技術文件仍有待歐盟委員會制定，旨在滿足小型和微型企業的需求。