隨著人工智能(AI)越來越多地融入商業(yè)運(yùn)營(yíng)，道德問題、監(jiān)管合規(guī)性和風(fēng)險(xiǎn)管理變得越來越突出。由國際標(biāo)準(zhǔn)化組織(ISO)和國際電工委員會(huì)(IEC)制定的ISO/IEC 42001:2023標(biāo)準(zhǔn)建立了人工智能治理的框架。這是全球首個(gè)人工智能管理體系標(biāo)準(zhǔn)。

ISO/IEC 42001 標(biāo)準(zhǔn)概述

ISO/IEC 42001 是一項(xiàng)國際標(biāo)準(zhǔn)，它規(guī)定了在組織內(nèi)部建立、實(shí)施、維持以及持續(xù)改進(jìn)人工智能管理系統(tǒng)（AIMS）的要求。該標(biāo)準(zhǔn)的適用對(duì)象為提供或使用基于人工智能的產(chǎn)品或服務(wù)的實(shí)體，滿足該標(biāo)準(zhǔn)可以確保這些實(shí)體負(fù)責(zé)任地開發(fā)和使用人工智能系統(tǒng)。

ISO/IEC 42001針對(duì)人工智能所帶來的獨(dú)特挑戰(zhàn)，如倫理考量、透明度以及持續(xù)學(xué)習(xí)等方面提出了要求。

ISO/IEC 42001的關(guān)鍵要求

1、組織的環(huán)境

1) 識(shí)別影響人工智能管理的內(nèi)部和外部因素；

2) 確定人工智能治理的范圍；

3) 認(rèn)識(shí)利益相關(guān)者及其期望。

2、領(lǐng)導(dǎo)力和承諾

1) 建立人工智能治理策略；

2) 確保與組織目標(biāo)保持一致；

3) 為人工智能監(jiān)督分配角色和職責(zé)。

3、人工智能風(fēng)險(xiǎn)管理

1）進(jìn)行人工智能特有的風(fēng)險(xiǎn)評(píng)估；

2）解決道德問題、網(wǎng)絡(luò)安全風(fēng)險(xiǎn)和法規(guī)符合性挑戰(zhàn)；

3）實(shí)施記錄在案的風(fēng)險(xiǎn)處理計(jì)劃。

4、人工智能系統(tǒng)影響評(píng)估

1）評(píng)估人工智能對(duì)個(gè)人、社會(huì)和企業(yè)的影響；

2）識(shí)別潛在的偏見和公平問題；

3）記錄緩解策略。

5、數(shù)據(jù)管理和質(zhì)量保證

1）確保人工智能訓(xùn)練數(shù)據(jù)可靠、公正、合法；

2）管理數(shù)據(jù)來源和加工流轉(zhuǎn)路徑；

3）實(shí)施持續(xù)人工智能監(jiān)控流程。

6、性能監(jiān)測(cè)和持續(xù)改進(jìn)

1）建立人工智能有效性的關(guān)鍵性能指標(biāo)；

2）為合規(guī)性驗(yàn)證進(jìn)行內(nèi)部審核；

3）使人工智能治理策略適應(yīng)不斷發(fā)展的風(fēng)險(xiǎn)和法規(guī)。

實(shí)施ISO/IEC 42001的步驟

為了成功實(shí)施ISO/IEC 42001，組織應(yīng):

1、進(jìn)行準(zhǔn)備情況評(píng)估: 評(píng)估當(dāng)前的人工智能政策和治理框架。

2、定義AI管理范圍: 確定哪些AI系統(tǒng)和流程需要遵從。

3、制定人工智能政策和風(fēng)險(xiǎn)管理計(jì)劃:建立符合ISO/IEC 42001要求的指導(dǎo)方針。

4、培訓(xùn)員工: 確保員工理解他們?cè)贏I治理中的角色。

5、監(jiān)控和改進(jìn): 定期檢查AI性能，并根據(jù)需要調(diào)整治理策略。

此外，國際標(biāo)準(zhǔn)化組織（ISO）制定了多項(xiàng)標(biāo)準(zhǔn)，旨在降低人工智能帶來的風(fēng)險(xiǎn)并最大限度地發(fā)揮其帶來的益處，其中包括:

* ISO/IEC 22989:  確立了人工智能的術(shù)語，并對(duì)人工智能領(lǐng)域的概念進(jìn)行了描述；

* ISO/IEC 23053：確立了一個(gè)用于描述使用機(jī)器學(xué)習(xí)技術(shù)的通用人工智能系統(tǒng)的 AI 和機(jī)器學(xué)習(xí)（ML）框架；

* ISO/IEC 23894：提供了有關(guān)人工智能相關(guān)風(fēng)險(xiǎn)管理的指導(dǎo)。