人工智能(AI)近年來發展迅速,并通過其自動化決策能力在數字化轉型中發揮著關鍵作用,對人們的日常生活產生了巨大影響。歐盟委員會曾于 2021 年 4 月 21 日發布了《人工智能法案》的提案,對于例如用于生物識別或關鍵基礎設施管理和運營的高風險AI系統,進行了包括網絡安全和隱私安全方面的規定和要求,以減輕對健康、安全和基本權利的威脅。
鑒于此,AI也已被歐盟網絡安全局(ENISA)認定為首要的風險之一。為提高人們對AI各種使用場景下網絡安全和隱私威脅的認識,ENISA 在AI網絡安全特設工作組的支持下,曾于過去兩年發布了兩份指南:《人工智能的網絡安全挑戰》和《安全機器學習算法》。
今年6月,ENISA又發布了一份新指南《人工智能中的網絡安全和隱私:醫學影像診斷》,涉及AI支持的醫學影像診斷中的網絡安全和隱私。
該指南建立在 ENISA 自 2020 年以來啟動的識別人工智能相關風險的工作的基礎上。這份新指南分析了人工智能在例如骨質疏松癥醫學影像診斷中的網絡安全和隱私要求及措施,并描述了該場景的基本原則(資產、參與者流程等),確定了其帶來的安全和隱私風險,最后介紹了網絡安全和隱私控制對已識別風險的抵消。
該指南使得更好地評估AI帶來的一系列現實威脅成為可能,并堅持尋找新的安全措施以應對這些威脅。應指出的是,隱私問題也是當今社會面臨的最重要的挑戰之一。網絡安全問題和隱私問題密切相關,兩者都很重要。但優化安全和隱私的努力往往會以犧牲系統性能為代價,必須針對每種用途來進行平衡。
