Gartner發(fā)布了備受矚目的企業(yè)人工智能治理指南，該指南以廣泛認(rèn)可的企業(yè)通用治理框架為基礎(chǔ)，系統(tǒng)性地確定了針對該框架六大支柱的人工智能特定因素。這份指南為企業(yè)，尤其是那些在人工智能基礎(chǔ)軟件開發(fā)領(lǐng)域投入巨大的組織，提供了一個清晰、可操作的治理藍(lán)圖，旨在應(yīng)對AI技術(shù)帶來的獨特風(fēng)險與機(jī)遇，確保其負(fù)責(zé)任、合規(guī)且高效地發(fā)展。

指南的核心在于，將成熟的企業(yè)治理原則與人工智能（特別是基礎(chǔ)軟件開發(fā)）的特殊性相結(jié)合。其框架的六大支柱分別從不同維度構(gòu)建了治理體系，而針對每一支柱，指南都明確了關(guān)鍵的AI特定考量因素。

支柱一：戰(zhàn)略與目標(biāo)
在通用層面，此支柱關(guān)注業(yè)務(wù)戰(zhàn)略與治理目標(biāo)的一致性。對于AI基礎(chǔ)軟件開發(fā)，特定因素包括：明確AI開發(fā)的戰(zhàn)略意圖（是構(gòu)建核心競爭力還是提升運(yùn)營效率？），制定可衡量的AI倫理準(zhǔn)則，以及確保AI項目與企業(yè)的長期技術(shù)路線圖和商業(yè)價值創(chuàng)造緊密對齊。治理需回答“我們?yōu)楹我_發(fā)此AI軟件”的根本問題。

支柱二：組織結(jié)構(gòu)與角色
通用治理強(qiáng)調(diào)清晰的權(quán)責(zé)劃分。在AI領(lǐng)域，這轉(zhuǎn)化為設(shè)立專門的AI治理委員會或首席AI倫理官等角色。對于基礎(chǔ)軟件開發(fā)團(tuán)隊，需明確定義開發(fā)者、算法科學(xué)家、產(chǎn)品經(jīng)理、合規(guī)官等在模型設(shè)計、數(shù)據(jù)使用、測試部署各環(huán)節(jié)的職責(zé)，并建立跨職能的協(xié)同機(jī)制，確保技術(shù)決策受到必要的業(yè)務(wù)與合規(guī)審視。

支柱三：政策與流程
這是將原則落地的關(guān)鍵。針對AI基礎(chǔ)軟件，需制定專門的政策與流程，涵蓋：

• 數(shù)據(jù)治理：訓(xùn)練數(shù)據(jù)的來源、質(zhì)量、偏見評估、隱私保護(hù)（如匿名化處理）流程。
• 模型開發(fā)生命周期管理：從需求分析、設(shè)計、訓(xùn)練、驗證到部署、監(jiān)控與退役的全流程標(biāo)準(zhǔn)。
• 風(fēng)險管理：識別并緩解AI系統(tǒng)可能帶來的安全性、公平性、可解釋性、可靠性風(fēng)險的具體程序。
• 合規(guī)流程：確保開發(fā)活動符合各地區(qū)（如歐盟的AI法案）及行業(yè)法規(guī)的要求。

支柱四：人才與文化
通用治理重視組織能力與文化。在AI基礎(chǔ)軟件開發(fā)中，這意味著：投資于提升全員（不僅是技術(shù)人員）的AI素養(yǎng)；培養(yǎng)負(fù)責(zé)任創(chuàng)新的文化，鼓勵對算法倫理的探討；吸引和保留兼具技術(shù)專長與倫理意識的復(fù)合型人才；建立安全、透明的內(nèi)部反饋與問責(zé)文化。

支柱五：技術(shù)與信息
此支柱關(guān)注支撐治理的技術(shù)與數(shù)據(jù)基礎(chǔ)。對于AI開發(fā)，特定因素包括：

• 工具鏈與平臺：采用支持可追溯性、版本控制和模型性能監(jiān)控的開發(fā)運(yùn)維一體化（MLOps）平臺。
• 可解釋性與透明度工具：集成能夠解釋模型決策、檢測偏見的技術(shù)工具。
• 信息安全：強(qiáng)化模型資產(chǎn)、訓(xùn)練數(shù)據(jù)及API接口的安全防護(hù)。
• 信息架構(gòu)：確保高質(zhì)量、合規(guī)的數(shù)據(jù)能夠被有效、安全地用于AI訓(xùn)練與評估。

支柱六：績效與監(jiān)督
通用治理要求度量和持續(xù)改進(jìn)。在AI領(lǐng)域，監(jiān)督需超越傳統(tǒng)IT績效指標(biāo)，建立涵蓋以下維度的評估體系：

• 模型性能指標(biāo)：準(zhǔn)確性、魯棒性、公平性（如不同群體間的性能差異）、效率。
• 業(yè)務(wù)影響指標(biāo)：AI軟件帶來的實際業(yè)務(wù)價值、投資回報率。
• 合規(guī)與風(fēng)險指標(biāo)：審計發(fā)現(xiàn)、偏差事件、用戶投訴、法規(guī)遵從狀態(tài)。
• 持續(xù)監(jiān)控與審計：對已部署AI系統(tǒng)進(jìn)行持續(xù)性能監(jiān)控和定期倫理與合規(guī)審計的機(jī)制。

對人工智能基礎(chǔ)軟件開發(fā)的啟示
對于從事AI基礎(chǔ)軟件開發(fā)的企業(yè)而言，此指南強(qiáng)調(diào)治理必須“左移”，即從項目伊始就融入治理考量，而非事后補(bǔ)救。開發(fā)團(tuán)隊需要在編寫第一行代碼前，就思考其工作的倫理影響、數(shù)據(jù)依賴和合規(guī)要求。將治理視為賦能而非束縛，通過清晰的政策和自動化工具，既能管控風(fēng)險，又能提升開發(fā)效率與模型質(zhì)量，最終構(gòu)建出更可信、更可持續(xù)的AI基礎(chǔ)軟件產(chǎn)品。

Gartner的這份指南為企業(yè)提供了一套將AI治理，特別是基礎(chǔ)軟件開發(fā)的治理，從理論概念轉(zhuǎn)化為具體實踐的框架。通過圍繞六大支柱系統(tǒng)性地融入AI特定因素，企業(yè)可以更有信心地駕馭人工智能浪潮，確保技術(shù)創(chuàng)新在可控的軌道上創(chuàng)造長期價值。