如何監(jiān)管生成式人工智能（AI）器械是美國(guó) FDA 新數(shù)字健康專家委員會(huì)于 11 月 20 日開(kāi)始的為期兩天的首次會(huì)議的核心議題。

FDA 局長(zhǎng) Robert Califf 在會(huì)議上致開(kāi)幕詞，指出 FDA 自 1995 年以來(lái)已收到 1000 多份支持 AI 的醫(yī)療器械的申請(qǐng)，300 多份包括 AI 成分的藥品和生物制品的申請(qǐng)，并且?guī)缀趺考幤飞暾?qǐng)都在開(kāi)發(fā)過(guò)程中的某處使用了 AI。但他也警告指出，如果沒(méi)有適當(dāng)?shù)谋Ｕ洗胧珹I 最終可能不會(huì)讓美國(guó)變得更健康。

Califf 表示，“我聽(tīng)到越來(lái)越多的人擔(dān)心采納 AI 的標(biāo)準(zhǔn)幾乎存粹是出于財(cái)務(wù)考慮，”并警告表示美國(guó)農(nóng)村地區(qū)可能會(huì)被排除在外。“臨床結(jié)局測(cè)量很難。除非非常認(rèn)真地對(duì)待這些問(wèn)題，并組建那些關(guān)心改善健康結(jié)局的人的聯(lián)盟，否則這項(xiàng)技術(shù)將以我們整體健康惡化為代價(jià)來(lái)提高利潤(rùn)。”

生成式 AI 模仿輸入數(shù)據(jù)的結(jié)構(gòu)和特征，以生成圖像、視頻、文本和其它數(shù)字內(nèi)容等合成內(nèi)容，在醫(yī)學(xué)領(lǐng)域的應(yīng)用越來(lái)越廣泛。FDA 指出，這些 AI 支持的器械可以有各種預(yù)期用途，因此一般討論的考慮因素可能并不適用于所有支持生成式 AI 的器械。

哈佛大學(xué)助理教授 Pranav Rajpurkar 向?qū)＜椅瘑T會(huì)介紹了衡量生成式 AI 性能的困難。“讓我們感到非常興奮的事情之一是大型語(yǔ)言模型（LLM）能夠進(jìn)行對(duì)話。這些系統(tǒng)的評(píng)估方式與這些系統(tǒng)在實(shí)踐中的預(yù)期使用方式之間存在很大差距。”

例如，他指出，目前對(duì) LLM 的主要評(píng)估是回答醫(yī)學(xué)考試問(wèn)題，研究表明 LLM 的表現(xiàn)優(yōu)于人類(lèi)，其它研究甚至表明 AI 的表現(xiàn)優(yōu)于在 AI 輔助下的臨床醫(yī)生。

但 Rajpurkar 強(qiáng)調(diào)，LLM 并未接受過(guò)訓(xùn)練來(lái)了解真實(shí)世界中的患者。真實(shí)世界中的醫(yī)生接待的患者不會(huì)了解醫(yī)學(xué)術(shù)語(yǔ)，在為患者做決定時(shí)，醫(yī)生也沒(méi)有提供多項(xiàng)選擇。

Rajpurkar 表示，“我們需要改變我們對(duì)評(píng)估的看法，以及如何進(jìn)行對(duì)話式評(píng)估。”

FDA 呼吁專家會(huì)在兩天內(nèi)重點(diǎn)討論與上市前性能評(píng)估、風(fēng)險(xiǎn)管理和上市后監(jiān)測(cè)相關(guān)的三大類(lèi)問(wèn)題：

1. 應(yīng)提供給 FDA 的與生成式 AI 相關(guān)的具體信息，以便評(píng)估生成式 AI 器械的安全性和有效性，尤其是，考慮到基礎(chǔ)模型會(huì)隨著實(shí)踐的推移而變化。

2. 可能需要哪些新的機(jī)會(huì)和控制措施來(lái)降低風(fēng)險(xiǎn)。“例如，與治理、訓(xùn)練、反饋機(jī)制和真實(shí)世界績(jī)效評(píng)估相關(guān)的控制措施。”

3. FDA 還尋求討論上市后監(jiān)測(cè)和評(píng)估的不同方面，這對(duì)于維護(hù)這些器械的安全性和有效性至關(guān)重要。