《歐盟人工智能法案》第 29 條對高風(fēng)險人工智能系統(tǒng)的用戶規(guī)定了一系列用戶義務(wù)，這些義務(wù)在MDR和IVDR中沒有類似規(guī)定，如用戶有義務(wù)"systems in accordance with the instructions of use accompanying the systems"。MDR 或 IVDR 中沒有任何其他關(guān)于lay users甚至professional users的 NLF 法規(guī)或指令規(guī)定這一義務(wù)。

此外，《歐盟人工智能法案》第 29(3)條要求"user shall ensure that input data is relevant in view of the intended purpose of the high-risk AI system "，這對用戶提出了一項(xiàng)對lay users毫無意義的義務(wù)，并假定了大多數(shù)用戶不具備也不需要具備的專業(yè)程度。醫(yī)療機(jī)構(gòu)的professional users通常也不會對輸入數(shù)據(jù)施加任何影響，因?yàn)樗麄兊穆氊?zé)是按照使用說明配置設(shè)備。因此，他們無法控制從病人身上測得的數(shù)據(jù)是否與系統(tǒng)"相關(guān)"。相反，他們所能做的就是按照 IFU 中說明的預(yù)期目的使用設(shè)備，這樣輸入的數(shù)據(jù)就會自動與系統(tǒng)相關(guān)。例如，一個經(jīng)過培訓(xùn)、旨在解讀核磁共振成像掃描結(jié)果以發(fā)現(xiàn)肺部癌變跡象的人工智能系統(tǒng)，顯然不能用于解讀其他器官的核磁共振成像掃描結(jié)果，因?yàn)檫@些其他器官的核磁共振成像掃描結(jié)果與該系統(tǒng)的預(yù)期目的無關(guān)。不過，這已經(jīng)屬于 MDR 和 IVDR 規(guī)定的不得在標(biāo)簽外（即未按預(yù)期用途）使用設(shè)備的義務(wù)范圍。制造商需要對系統(tǒng)進(jìn)行設(shè)計(jì)，以降低這種風(fēng)險，例如，讓系統(tǒng)提示用戶所顯示的 "其他器官"掃描超出了系統(tǒng)的預(yù)期解釋范圍。

根據(jù) MDR 和 IVDR（以及標(biāo)簽），確保輸入數(shù)據(jù)與醫(yī)療器械操作相關(guān)，將是風(fēng)險管理和可用性設(shè)計(jì)過程的主題，以降低用戶因向系統(tǒng)提供非相關(guān)數(shù)據(jù)而出現(xiàn)用戶錯誤的風(fēng)險，如上述核磁共振掃描的例子。用戶向系統(tǒng)提供相關(guān)數(shù)據(jù)的義務(wù)是 MDR 和 IVDR 邏輯中的反向方法，它們要求設(shè)備在設(shè)計(jì)時只接受相關(guān)數(shù)據(jù)。醫(yī)療保健環(huán)境中的設(shè)備用戶通常無法控制輸入數(shù)據(jù)，也沒有辦法評估輸入數(shù)據(jù)是否與設(shè)備 100% 相關(guān)，因?yàn)樵O(shè)備的功能是為他們理解數(shù)據(jù)。當(dāng)設(shè)備根據(jù)患者健康記錄中的大量數(shù)據(jù)字段提供風(fēng)險評分時，這一點(diǎn)尤為重要。在醫(yī)療保健環(huán)境中，設(shè)備在設(shè)計(jì)時應(yīng)避免接受或提醒用戶輸入系統(tǒng)的非相關(guān)或不恰當(dāng)數(shù)據(jù)。例如，用于解讀肺部圖像的人工智能系統(tǒng)不小心輸入了腎臟掃描數(shù)據(jù)。在這種情況下，MDR要求制造商在設(shè)計(jì)系統(tǒng)時，盡量對輸入的數(shù)據(jù)提出質(zhì)疑。

公告機(jī)構(gòu)（事前）和主管當(dāng)局（事后）都要監(jiān)督上述風(fēng)險管理要素在 MDR 和 IVDR 下的正確實(shí)施。作為上市后監(jiān)督的一個事項(xiàng)，制造商必須監(jiān)督所討論的風(fēng)險是否確實(shí)得到了管理，用戶是否向系統(tǒng)提供了無關(guān)的輸入。