在生成式AI(GenAI)出現(xiàn)之前，開發(fā)人員已經(jīng)將人工智能(AI)和機(jī)器學(xué)習(xí)(ML)模型納入醫(yī)療器械。這些非生成式AI/ML 模型被用于執(zhí)行圖像分割、分類、生物標(biāo)記提取和風(fēng)險(xiǎn)預(yù)測(cè)等任務(wù)。非生成式AI/ML模型通常被認(rèn)為是可重現(xiàn)的，即使不能完全解釋或透明。

生成式AI指的是模仿輸入數(shù)據(jù)的結(jié)構(gòu)和特征來生成衍生合成內(nèi)容的人工智能模型，可包括圖像、視頻、音頻、文本和數(shù)字內(nèi)容。生成式AI 與非生成式AI/ML 一樣，都是從數(shù)據(jù)中學(xué)習(xí)模式；但與非生成式AI/ML不同的是，GenAI模型通常是為了創(chuàng)建與所學(xué)數(shù)據(jù)相似的新數(shù)據(jù)，而不是主要為了識(shí)別模式以做出準(zhǔn)確預(yù)測(cè)。生成式AI模型可以分析輸入數(shù)據(jù)，并根據(jù)上下文生成適當(dāng)?shù)妮敵觯@些輸出可能在其訓(xùn)練數(shù)據(jù)中并未明確顯示。

重要的是，生成式AI模型經(jīng)常是在如此龐大的數(shù)據(jù)集上開發(fā)的，以至于開發(fā)人員在開發(fā)過程中通常無法了解數(shù)據(jù)集內(nèi)容的所有信息。與用于開發(fā)其他AI/ML模型的數(shù)據(jù)集相比，用于開發(fā)生成式AI模型的數(shù)據(jù)集可能會(huì)有意擴(kuò)大，最初可能不會(huì)針對(duì)特定任務(wù)進(jìn)行定制。生成式AI模型在開發(fā)數(shù)據(jù)內(nèi)的元素之間衍生出高度復(fù)雜的關(guān)系，可應(yīng)用于一個(gè)或潛在的多個(gè)任務(wù)并對(duì)其進(jìn)行進(jìn)一步優(yōu)化。雖然生成式AI 模型可能會(huì)生成適用于特定興趣領(lǐng)域的輸出，但推導(dǎo)出的關(guān)系是在開發(fā)數(shù)據(jù)中發(fā)現(xiàn)的不同單詞、像素或其他語(yǔ)言元素之間的關(guān)系。因此，輸出反映的是對(duì)衍生關(guān)系的概率預(yù)測(cè)，有時(shí)可能會(huì)參考開發(fā)數(shù)據(jù)集中與特定興趣領(lǐng)域不一定相關(guān)的信息。可廣泛應(yīng)用于多種任務(wù)的生成式AI 模型通常被稱為基礎(chǔ)模型。

目前的基礎(chǔ)模型通常不是為單個(gè)產(chǎn)品創(chuàng)建的，一般也不打算用作FD&C Act第 201(h)條所定義的器械。應(yīng)用軟件開發(fā)者通常與基礎(chǔ)模型開發(fā)者是不同的實(shí)體，他們可以為各種應(yīng)用軟件（包括可能符合器械定義的應(yīng)用軟件）調(diào)整單一的基礎(chǔ)模型。隨著研究人員對(duì)這一領(lǐng)域的關(guān)注，用于訓(xùn)練特定任務(wù)基礎(chǔ)模型的方法也在迅速出現(xiàn)和變化。一些研究人員正在探索將 GenAI模型用于類似于目前可通過非生成式AI/ML模型完成的任務(wù)，如分割或分類，而另一些研究人員則在探索將AI或生成式AI模型用于更新的功能，如廣泛的圖像分析和提供廣泛學(xué)科的臨床診斷。即使AI或生成式AI 模型是專門針對(duì)醫(yī)療信息進(jìn)行訓(xùn)練的，這些信息也可能跨越醫(yī)療保健領(lǐng)域的許多醫(yī)學(xué)學(xué)科和來源。因此，模型可能不僅能生成特定類型的輸出，還能跨越多個(gè)臨床學(xué)科。例如，一個(gè)經(jīng)過訓(xùn)練可在活檢圖像上識(shí)別腫瘤組織的模型有可能用于多種不同的組織類型和成像模式。

包括生成式AI模型在內(nèi)的AI模型也會(huì)出現(xiàn)幻覺，即生成錯(cuò)誤或虛假的內(nèi)容，以達(dá)到滿足用戶提示的編程目標(biāo)。模型的復(fù)雜性，包括模型架構(gòu)和生成式AI 模型典型的大量數(shù)據(jù)，可能是導(dǎo)致這種幻覺的一個(gè)因素。因此，雖然生成式AI 的一個(gè)潛在顯著優(yōu)點(diǎn)是它可以從各種不同的數(shù)據(jù)類型中生成適用于特定興趣領(lǐng)域的輸出結(jié)果，或者它可以生成與大量任務(wù)相關(guān)的輸出結(jié)果，但生成式AI 也可能帶來潛在風(fēng)險(xiǎn)，不同的應(yīng)用可能需要不同程度的風(fēng)險(xiǎn)控制，其他技術(shù)也是如此。例如，幻覺，尤其是那些對(duì)用戶來說可能是真實(shí)輸出的幻覺，可能會(huì)對(duì)某些醫(yī)療保健應(yīng)用構(gòu)成重大挑戰(zhàn)，因?yàn)樵谶@些應(yīng)用中，高度準(zhǔn)確、真實(shí)的信息至關(guān)重要。

對(duì)于醫(yī)療器械而言，使用生成式AI生成的內(nèi)容可以幫助確定可能的臨床診斷、治療方案，并為患者、醫(yī)療保健專業(yè)人員和其他人提供復(fù)雜醫(yī)療數(shù)據(jù)中的新關(guān)聯(lián)，這對(duì)醫(yī)療保健大有裨益。然而，生成式AI處理多樣化、新穎和復(fù)雜任務(wù)的能力有時(shí)也會(huì)導(dǎo)致器械輸出極限的不確定性。如果控制不力，這種不確定性就會(huì)轉(zhuǎn)化為確認(rèn)器械預(yù)期用途界限的困難，從而給 FDA 對(duì)生成式AI 器械的監(jiān)管帶來挑戰(zhàn)。例如，如果器械的預(yù)期用途沒有明確定義，F(xiàn)DA 可能難以采用基于風(fēng)險(xiǎn)的方法對(duì)生成式AI器械進(jìn)行分類，并確定適用的監(jiān)管要求。此外，重要的是要有足夠的評(píng)估方法和風(fēng)險(xiǎn)控制，以確保啟用生成式AI 的器械在整個(gè) TPLC 中保持安全和有效。雖然一些可用于確保 AI器械安全有效的評(píng)估方法和風(fēng)險(xiǎn)控制措施也可用于生成式AI器械，但對(duì)生成式AI 器械的興趣和需求也可能加速新評(píng)估方法或風(fēng)險(xiǎn)控制措施的開發(fā)。與所有器械一樣，F(xiàn)DA 遵循基于風(fēng)險(xiǎn)的方法，考慮產(chǎn)品的預(yù)期用途和技術(shù)特性，以合理保證其安全性和有效性。