1、 人工智能的進展
人工智能（AI）是使用計算算法來模仿人類的智能過程和記憶。機器學習（ML）是人工智能的一個子領域，它使這些算法能夠處理越來越多的數據并完善預測，而無需明確指示尋找結果。深度學習（DL）是ML的另一個子領域，其中卷積神經網絡（CNN）等程序被用來處理數據，以獲得越來越精確的對象檢測。在醫學圖像分析中，這些網絡通常評估標準臨床放射學數據集中的體素級數據，使臨床結果與超出人類視覺能力的紋理分析相關聯（圖1）。這些過程可以與人工智能技術相結合，這些技術可以訪問電子病人記錄和來自萬物互聯的數據，以便從巨大的數據集中推動洞察力和臨床護理，這也超出了人腦的技術計算能力。
圖1 流程圖顯示了人工智能對醫學數據的可能實現，并顯示了放射組學、機器學習和深度學習之間的異同。
然而，人工智能和ML并不是特別新的領域，它們的發展與計算機和處理能力的發展有著相似的路徑。自第一臺分類程序計算機開發以來已經超過70年，自第一個人工智能程序（Logic Theorists）發明以來已經超過65年（圖2）。誠然，在過去十年中，計算能力的進步出現了指數級的增長，以至于越來越多的基本人工智能可以使用CPU（而不是GPU）技術提供。這一進展使該技術進入了日常用戶的領域，并為整個病人路徑上的日常臨床醫療服務提供了真正的潛在提升。我們承認人工智能在圖像處理方面具有根本性的作用，同時也促進了臨床和成像大數據的整合，以改善個性化的風險分層。具體來說，我們認為人工智能和ML還沒有徹底改變臨床實踐，沒有得到臨床界足夠的批評性評價，而且目前被過度炒作。在被臨床醫生接受之前，人工智能工具應該被證明是準確和有效的（在成本和時間方面），并清楚地了解它們是如何提高診斷準確性或結果的；目前的人工智能產品缺少大部分內容，而且商業供應商也沒有公開交流過。人工智能在心血管CT中的主要挑戰與CT數據（由于人為因素）或使用的算法（由于有偏見的訓練數據集等）產生的錯誤有關。
圖2 人工智能的時間線——來自Anyoha R.《人工智能的歷史》。哈佛大學，《新聞中的科學》。
本文是2021心血管計算機斷層掃描學會（SCCT）年度科學會議上AI/ML大辯論的后續文章。在辯論風格中，我們強調了對 AI/ML 的期望管理的必要性，揭穿了圍繞當前 AI 技術的炒作，并反駁了當前形式的 AI/ML 是解釋日常臨床 CCT 實踐的靈丹妙藥的論點。
2、 過度渲染人工智能“革命”
人工智能被吹捧為一個顛覆性的、創新性的新生代，越來越多地滲透到心血管醫學和心血管成像的各個方面。然而，巧妙的營銷、高影響力的論文和成像天堂的承諾真的經得起我們評估新藥或醫療設備的審查嗎？
如上所述，這不是人工智能炒作第一次盛行。60年代和70年代，人們對即將到來的技術革命的預測幾乎相同，這場革命將改變我們生活的方方面面。這種熱情和樂觀情緒滲透到了社會的方方面面，激發了兒童動畫片《杰森一家》，以及從《太空漫游2020》到《終結者》的科幻電影浪潮。這種炒作，以及這項技術不可避免地未能兌現被夸大的承諾，導致了資金的崩潰和近20年的忽視。人們經常注意到，那些記不住過去的人注定要重蹈覆轍。因此，這些作者關注的是，目前該技術的擁護者，無論是疏忽還是故意，都忽視了過去。
人工智能在現實世界中的臨床實施比許多人希望的要慢，但人工智能的真正障礙很少被討論。臨床猶豫的原因是多因素的；新術語、新技術和復雜的“黑匣子”算法都需要新的學習。需要對研究進行專家同行評審，深入了解技術的技術挑戰和潛在偏見，并對真正的臨床價值進行關鍵評估，然后才能進行強有力的、真實的驗證和監管批準。人工智能/ML的快速商業化——以及對短期投資回報的相關預期——以及對數據所有權、道德和醫療法律風險的不明確，都加劇了這一挑戰。
毫無疑問，作為決策支持工具，許多人工智能過程有潛力真正支持心血管成像設備并指導患者護理。有人可能會說，心血管成像設備一直處于數字革命的前沿，人工智能可以用來改善圖像采集、重建、分割、直接圖像分析和解釋。
然而，我們必須批判性地評估這些算法，并質疑一直以來的說法，即這項技術提高了效率、客觀性和性能，同時提高了圖像質量、分割、定量測量和結果預測。在醫療保健之外，盡管人工智能算法得到了廣泛的應用和普及，但包括谷歌、臉書和微軟在內的領先公司的生產力近年來未能與預期相反地提高；那么，這項技術真的像宣傳的那樣具有顛覆性嗎？
雖然人工智能確實有可能簡化大部分心血管CT的臨床工作流程，但我們質疑這些人工智能過程在不完美的圖像采集和固有成像偽影的真實世界中到底能提供多大價值（如果我們將引用的排斥率用于商業計算流動態評估，這將影響高達30%的數據集），斷開的醫療保健系統數據庫，沒有大規模的“供應商中立”檔案。必須回答的主要問題是：人工智能對專家有幫助嗎？它是否提供了改進的有效性（時間、成本或兩者兼而有之），錯誤率（與人工解釋相比）是多少？它能提供診斷益處嗎？此外，人工智能會對非專家的圖像解讀造成多大傷害？當人工智能結果（如自動分割）可能存在問題和缺陷時，非專家會僅僅信任結果而不理解嗎？
3、 挑戰炒作：重塑和進化；非革命性
我們已經說過人工智能不是什么新鮮事。大部分作為新技術出售的產品要么是對舊技術的重新利用，要么是將相對現代的技術重新應用到新領域。這些技術中很少有革命性的，它們當然不值得相關的炒作或價格標簽。
a.放射組學：有人可能會說，心血管成像的真正革命是將放射組學（或紋理分析）用于成像數據集。然而，雖然放射組學分析的一些結果可能是突破性的，但其他結果只是對我們已經知道的進行了三角化測量。放射組學的基礎建立在20世紀40年代和50年代的軍事衛星成像技術上，該技術旨在利用20世紀中期衛星圖像中的粒狀黑白輸出來區分城市地區和林地。因此，雖然分形分析、灰度出現或長度矩陣等統計工具在醫學成像中的應用對我們來說可能是新的，但它們所基于的算法已經有近80年的歷史了（圖3A）。我們還沒有現成的數據來了解或獲取圖像質量和偽影對放射組學評估再現性或準確性的影響。
b.基于人工智能的工作站：在工作站上生成圖像的新的基于機器學習的軟件已經能夠（或多或少）可靠地將中心線沿著冠狀動脈走行，已經超過20年了（圖3B）。這需要在數千個正常數據集上教授該算法，使其能夠學習沿著增強的碘柱向下移動。同樣，使我們能夠分割冠狀動脈樹的邊界工具需要一個程序來確定血管的邊緣，并確定什么是冠狀動脈，什么是左心耳。同樣，這需要以一種始終基于機器學習算法的方式訓練算法，但在2000年代初并沒有被標記或炒作。這些技術正在不斷完善，現在包括斑塊定量和識別工具。然而，如果你知道去哪里看并打開引擎蓋，這些“新”技術的構建塊就一直存在。
圖3 那么，什么技術是新技術呢？圖A展示了20世紀50年代開發的放射組學算法，而允許多平面重組的中心線算法已經存在了幾十年（圖B）。
4、 對真實的臨床影響保持客觀，并管理期望
為了在臨床上有效和有用，需要將算法分配到特定任務中，以提供臨床輸出。在心血管CT中，這可能是在風險分析斑塊類型（分類任務）、生成自動鈣評分或射血分數（節省效率）或增強迭代重建或成像技術中。存在改善圖像采集、圖像質量、自動分割和分析的潛力，從而改善診斷和決策支持。這些進步有望改善患者的預后和最終結果。人們怎么會不同意改善工作流程、提供更多臨床見解、提高準確性和風險預測，同時節省成本的人工智能工具不是醫療保健的靈丹妙藥？對心血管人工智能文獻的回顧將產生如此有希望的發現，但這些幾乎都是胚胎結果，數據集很小，充滿潛在的偏見，在現實世界中的應用有限，缺乏突破性的優勢。
4.1 工作流程效率
自動化鈣評分真正節省了多少時間？我們不會爭論太多，當然也比可以進行自動CCTA讀取或初始TAVR分割和分析的情況要少。雖然正在積極探索這些應用程序，但它們的實施一直具有挑戰性。文獻中充滿了開創性和復雜的驗證論文，幾乎沒有一篇能夠轉化為臨床實踐。
已經存在的技術可以（重新）確定臨床工作清單的優先級，將報告者引導到算法檢測到病理的病例。將這項技術擴展到生成自動讀取正常CCTA可能是日常實踐中的一個重大進步——但同樣，盡管有這項技術，我們還沒有做到。存在用于分割的基線技術（圖4）和自動冠狀動脈讀取算法，但將這些算法轉化為常規臨床實踐仍然難以捉摸。此外，這種算法的附加值還有待證明。為了確保精確的分割和輪廓繪制，特別是在存在變異解剖結構的情況下，將繼續需要人工過度閱讀，從而將軟件降級到第二個閱讀器，并降低效率。
目前解決的懸而未決的問題（如CACS自動化）不太可能對CCT從業者的時間需求產生重大影響。我們所尋求的工具在使用之前需要完美嗎？我們的目標是讓機器衍生算法為我們做這項工作，還是處理過程中耗時的部分，如分割、中心線定義和定量測量？這些進步將使我們能夠進行過度閱讀、必要時進行調整并簽字。大多數現代工作站顯然已經具備了大部分這種能力，但這項現有技術需要在冠狀動脈之外進行調整和應用。重要的例子包括左心耳、TAVR和TMVR評估、冠狀動脈周圍和心外膜脂肪定量。這些技術不應作為大規模的AI/ML進步出售，因為它們現在還不存在。我們認為，追求完美、具有商業吸引力的產品正在扼殺現有的有價值的產品。是看不到價值，還是商業上看不到可銷售的價值，這是一個有爭議的話題，但有了今天存在的AI/ML工具，我們可以極大地改進工作流程和決策支持。也許迭代步驟會比等待最終的白金工具更快地推進整個領域。還應該注意的是，通過減少圖像解讀時間，這最終將減少報銷，至少在美國等醫療系統中是這樣。而且，如果人工智能算法不完善，報銷的下降也會導致準確性下降，并可能導致患者預后不佳。
圖4 使用機器學習算法的自動分割（西門子：State-of-the-Art presentation，ASM 2019）。
4.2 現實世界的挑戰
正如心血管成像歷史上反復證明的那樣，當將特定技術引入現實世界時，其理論價值往往相形見絀。計算機自動檢測（CAD）的經驗充分證明了當前AI/ML診斷助手可能產生的有限影響。CAD算法是使用人類編寫的代碼和數學公式而不是計算機學習開發的，設計用于輔助讀取乳房X光照片。由該領域專家領導的涉及31000多名女性的前瞻性隨機對照試驗發現，CAD提高了乳腺病變的準確性和檢測能力。然而，當在現實世界中應用時，CAD的使用顯著降低了敏感性，但對特異性沒有益處。這表明使用診斷助手存在強大的人類認知障礙，特別是當它們的好處是增量而非變革時。敏感性的喪失幾乎可以肯定是由于CAD在過度收費時缺乏過度監管的意愿。鑒于目前的法律框架將所有責任都交給了使用該工具的臨床醫生，而不是算法的創建者，因此沒有理由期望這些結果不會在人工智能增強的冠狀動脈狹窄檢測和量化的使用中復制。也許并不奇怪，最近對乳腺成像、癌癥診斷和胸部X射線診斷中的人工智能算法進行的審查發現，盡管這兩種模型在心血管成像方面都比我們的大多數工具先進得多，但沒有一種模型對常規臨床實施具有顯著的魯棒性。
4.3 臨床見解
有多篇論文聲稱，人工智能和ML算法顯著提高了對心血管疾病的臨床見解。向這些令人印象深刻的論文的作者道歉，我們將質疑并非所有論文都增加了我們的臨床知識。一些人可能已經對我們已經知道的內容進行了三角測量（這本身就很有價值），或者在精度上增加了一點增量。這些價值可能需要不成比例的努力、時間和成本。
作為驗證我們已經知道的與新見解的論文的例子，我們引用了關于功能性重大冠狀動脈疾病和結果的ML預測因子的令人印象深刻的論文，以及血管周圍脂肪的放射轉錄標記在改善心臟風險預測中的應用。
前者確定了6個與低FFR值相關的關鍵參數，即平均管腔面積、斑塊體積、衰減值、纖維脂肪/壞死核心體積、重構指數和左前降支近端位置；在此分析之前所有眾所周知的風險因素。是的，令人印象深刻，但也許不是革命性的。相反，后一項研究在一個大型驗證和訓練隊列中關聯了放射組學技術，然后將這一新特征應用于臨床隊列（SCOT-HEART），以證明使用新的生物標志物增強風險預測的能力。放射組學技術在新的解剖部位（冠狀動脈周圍脂肪）的應用已經被其他研究人員所反映（Dey等人），這是人工智能技術的一個例子，可以帶來潛在的新見解。
為了說明增加的臨床準確性相對于標準評估的價值，另一篇使用CACS和臨床數據研究10年死亡預測的優秀論文證明，ML工具隨著大量CACS、CCTA和臨床數據的增加而逐漸增加，AUC從單獨使用CACS的0.78變為使用ML CCTA數據的0.80，進一步增加AVSCD風險為0.82，ML臨床數據為0.83，所有參數增加為0.85。因此，隨著所有多參數數據、強大的算法（可能在商業上很昂貴）的加入，該技術將10年預測提高了7%。也許令人印象深刻，但在臨床實踐中交付是否可行？這樣的應用需要多個不同的數據集的鏈接，這些數據集理想地包括成像、臨床和社會數據。此外，這項工作將需要一種戰略方法來連接當前斷開的系統，這將需要對大多數臨床實踐進行大量投資。最終，人們不得不質疑，這種回報水平的投資成本值得嗎？在這一點上，可能不會。
使用傳統的統計技術同樣可以實現這些進步，這些技術提供了關于變量之間的關系及其相關的準確性提高幅度的明確結果。人工智能分析的優勢在于它能夠識別非線性交互，這些模式可能很有洞察力，但并不總是透明的。
文獻中有更多的論文告訴我們已經知道的事情。我們敦促大家注意不要被AI/ML這個綽號所誘惑。重要的是要退后一步，問問這是否真的增加了我們的知識，以及這些說法是否經得起我們將應用于非AI/ML手稿的高水平的通常學術審查。目前，我們正處于知識發展的（重要）低谷，但讓我們看看它的真實情況，而不是我們想要的樣子。在我們開始嘗試跑步之前，我們必須承認爬行階段很重要。
5、圖像質量的提高
即使在人工智能之前，CT硬件的創新也推動了圖像重建算法的并行改進，能夠提高精度、減少運動偽影和優化輻射。人工智能已“成功”應用于這些問題并集成到軟件中。這些進步通常使用基于DL-CNN的方法和最近的生成對抗性網絡（GAN）來進一步推進這一領域。
然而，有幾個問題需要注意。首先是用于推導這些主張的基線數據的質量（通常是最佳的且沒有缺陷）。這些工具在現實世界的臨床實踐中的應用可能不那么直接。人類臨床CT專家擅長使他們的思維過程適應次優圖像質量。事實上，在很大程度上，這正是人類CCT讀者成為專家的原因。即使在最有經驗的中心，也有很大一部分真實世界的數據集不是最優的，而且往往是由于難以辨別的原因。據稱，ML和DL算法可以克服人類的主觀性，產生更具可復制性的結果。這可能是真的，但算法能產生正確的解釋嗎？
心血管CT在技術上很復雜。掃描的質量取決于適當的心率控制、kV和mA設置、正確的卷積核選擇、相位選擇（以及對冠狀動脈運動的理解）和窗值。這是在考慮受試者的人的方面（體型、BMI、采集過程中呼吸或移動的趨勢等）之前。這些因素中的許多因素共同產生了不太完美的圖像質量，而“垃圾進垃圾出”這句老話絕對適用于基于計算機的處理，包括人工智能和機器學習。人類的適應性和神經元的可塑性導致了非二進制的學習，并使我們能夠“可靠地”克服這些陷阱。我們人類每天都在適應這一挑戰，因此人工智能還有一段路要走，尤其是當這項技術被認為可以去除病變（如非鈣化斑塊）以“正常化”冠狀動脈邊界時。這些都是人工智能需要克服的基本挑戰。
然后我們可以增加人體解剖學變異的挑戰。如前所述，CCTA的冠狀動脈分割已經存在了20多年；實現管腔狹窄分級、斑塊評估和（使用輔助技術）血流模擬。這對于機器所理解的正常解剖結構來說很好，但正如任何心臟成像儀所知，人體解剖結構的正常變化是多種多樣的。即使是最簡單的變體，如LAD和LCx動脈雙重起源的LMS缺失，中心線技術也經常失敗。即使是簡單的先天性異常也足以使自動化系統無法進行計算。
6、 文化和道德挑戰
挑戰現有就業模式的技術進步并不是醫療保健獨有。Price-Waterhouse-Cooper預測，人工智能/ML技術將從根本上改變或在更大程度上取代30%的工作崗位。這導致了醫學領域的一些夸張和歇斯底里的爆發，尤其是在放射學領域（人工智能將取代放射科醫生）。然而，正如上面的論點所概述的那樣，人工智能離成為一個強大的決策輔助工具還有很長的路要走，更不用說取代專業的人類了。
然而，和往常一樣，文化挑戰和不愿接受新事物是由許多因素驅動的。臨床（和成像）專家對計算機科學、大數據、高等數學和專有的“黑匣子”技術缺乏了解，這加劇了人們對人工智能和機器學習的歷史、其在其他職業或整個社會中的常規使用缺乏了解。進一步的障礙包括技術的巨大支出，這導致缺乏可用性和試驗技術的能力有限，以及在缺乏決策輔助工具或“基本真相”仲裁者的情況下，對工具應該或可以做什么缺乏了解。
所有這些因素都很重要；無論是對就業的生存威脅，對人工智能的基本原理和支撐人工智能的科學缺乏了解，無法對其進行有力和科學的批判，還是在臨床實踐中投入使用之前無法適應技術的優缺點。難怪更廣泛的臨床界正在努力接受這項“新”技術。
此外還有倫理方面的挑戰；誰擁有臨床數據（患者、獲取數據的機構或分析數據的公司？），如果國家提供（通過稅收）或個人支付獲取數據的費用，這種情況會改變嗎？如果一個人因算法支持的決定而受到傷害，那么誰承擔風險——醫生，還是為編寫算法代碼的公司？一個更緊迫的擔憂是，人們意識到許多設計的人工智能算法都是種族主義的，也許不是設計出來的，而是根據人類行為數據進行訓練，并由以白人男性為主的人工智能社區精心制作。這導致黑人被谷歌圖像識別軟件貼上大猩猩的標簽，并加強了警察的歧視行為。成像數據也不能免受這種影響。研究表明，算法可以從CXR和CT數據中準確、可重復地得出性別和種族。考慮到已知的女性和有色人種的治療和診斷策略失衡，基于這些數據訓練的算法可能會導致根深蒂固的強制偏見，其中許多算法的黑匣子性質掩蓋了這些偏見。
人工智能是一個龐大而復雜的領域，許多成像社會都在努力應對，這些倫理挑戰為這個已經具有挑戰性的領域增加了另一層復雜性。存在著跨越無數醫療、技術和商業利益的道德原則文化沖突的真正風險。
7、 人工智能的商業化和理解價值
醫療保健是一項有利可圖的努力，人工智能流程推動令人垂涎的利潤的潛力是一個積極和消極的現實。從好的方面來看，大型跨國公司正在該領域投入大量資金，推動創新并為新技術提供資金。另一方面，通常需要在中短期內獲得投資回報，并創造專有知識產權。雖然這些都是確保新發展轉化為社會影響的重要考慮因素，但它們可能對仍處于初級階段的強大人工智能技術的發展有害。根據2020年人工智能狀況報告——投資者Nathan Benaich和Ian Hogarth對該領域進行了仔細審查的年度分析——只有15%的人工智能研究共享他們的代碼。這意味著85%的研究本質上是不可復制的。這正是科學的對立面。它不僅阻礙了發展和創新，還阻礙了對穩健性、偏見和安全性的分析。在一個數百萬美元風險投資滲透的環境中，它也為欺詐創造了一個肥沃的環境，因為它知道幾乎不可能證明這一點。這種糟糕的做法很普遍，涉及最高層的科學期刊。在《自然》雜志上發表的一篇論文報告了人工智能算法在乳房X光檢查中的性能后，數十個中心的31位學者非常關注，以至于寫了一篇論文，強調了訓練和基本代碼的有限報告。雖然這篇論文對谷歌健康來說是極好的公關，但它對科學和臨床界的價值有限。
8、 結束語
雖然人工智能被譽為醫療保健和心血管成像的未來，但我們認為，醫療保健領域的人工智能需要成長和成熟，才能真正實現其巨大的希望。目前，它是一個聲音洪亮的蹣跚學步的孩子，讓人知道它的存在，但它沒有大一點的孩子那么精致。當受到挑戰時，它會變得暴躁，它的一些說法是異想天開和瘋狂的。它需要通過發展來成熟。努力融入更廣泛的環境，與同時代的人（在臨床世界）交朋友，并學會在社區中分享和合作。隨著人類的成長，會有成長的痛苦、高潮和低谷、成功和失敗。隨著時間的推移，隨著技術的成熟，融入臨床實踐（就像在更廣泛的社會中一樣），并承認其優勢和劣勢，人們會接受這項技術。目前，人工智能被過度炒作，離兌現其承諾還有一段路要走。
文獻原文：Nicol ED, Weir-McCall JR, Shaw LJ, Williamson E. Great debates in cardiac computed tomography: OPINION: "Artificial intelligence and the future of cardiovascular CT - Managing expectation and challenging hype". J Cardiovasc Comput Tomogr. 2023 Jan-Feb;17(1):11-17. doi: 10.1016/j.jcct.2022.07.005.
