劃重點(diǎn):

?? 英國國家網(wǎng)絡(luò)安全中心（NCSC）、美國網(wǎng)絡(luò)安全與基礎(chǔ)設(shè)施安全局(CISA)和其他16個(gè)國家的國際機(jī)構(gòu)發(fā)布了關(guān)于人工智能系統(tǒng)安全的新指南。

?? 這些指南旨在幫助開發(fā)人員在設(shè)計(jì)、開發(fā)、部署和運(yùn)營 AI 系統(tǒng)時(shí)，確保安全性成為其核心組成部分。

?? 指南內(nèi)容涵蓋了 AI 系統(tǒng)開發(fā)生命周期的四個(gè)關(guān)鍵階段:安全設(shè)計(jì)、安全開發(fā)、安全部署和安全運(yùn)維。

站長之家(ChinaZ.com) 11月30日 消息:英國國家網(wǎng)絡(luò)安全中心（NCSC）、美國網(wǎng)絡(luò)安全與基礎(chǔ)設(shè)施安全局(CISA)以及其他16個(gè)國家的國際機(jī)構(gòu)發(fā)布了一份關(guān)于人工智能系統(tǒng)安全的新指南。這些《安全 AI 系統(tǒng)開發(fā)指南》旨在為開發(fā)人員提供指導(dǎo)，確保在設(shè)計(jì)、開發(fā)、部署和運(yùn)營 AI 系統(tǒng)的過程中，安全性始終成為核心組成部分。然而，其他與 AI 項(xiàng)目有關(guān)的利益相關(guān)者也可以從這些信息中獲益。

這些指南發(fā)布之際，世界各國領(lǐng)導(dǎo)人在11月初的 AI 安全峰會(huì)上承諾安全和負(fù)責(zé)任地發(fā)展人工智能。《安全 AI 系統(tǒng)開發(fā)指南》提出了一些建議，以確保 AI 模型 “按預(yù)期運(yùn)行，需要時(shí)可用，并且不會(huì)向未經(jīng)授權(quán)的人泄露敏感數(shù)據(jù)”。其中，“安全即默認(rèn)” 的原則在現(xiàn)有框架中得到了英國國家網(wǎng)絡(luò)安全中心、美國國家標(biāo)準(zhǔn)與技術(shù)研究所以及其他國際網(wǎng)絡(luò)安全機(jī)構(gòu)的支持。

圖源備注：圖片由AI生成，圖片授權(quán)服務(wù)商Midjourney

這項(xiàng)新指南得到了來自18個(gè)國家的21個(gè)機(jī)構(gòu)和部委的認(rèn)可和聯(lián)合簽署，包括美國國家安全局和聯(lián)邦調(diào)查局，以及加拿大網(wǎng)絡(luò)安全中心、法國網(wǎng)絡(luò)安全局、德國聯(lián)邦信息安全局、新加坡網(wǎng)絡(luò)安全局和日本網(wǎng)絡(luò)安全事故應(yīng)急處置中心。NCSC 的首席執(zhí)行官 Lindy Cameron 在新聞稿中表示:“我們知道，人工智能正在以驚人的速度發(fā)展，需要在政府和行業(yè)之間采取協(xié)同行動(dòng)，保持與其同步。這些指南是塑造全球范圍內(nèi)對 AI 的網(wǎng)絡(luò)風(fēng)險(xiǎn)和緩解策略的真正全球共識(shí)的重要一步?！?/p>

《安全 AI 系統(tǒng)開發(fā)指南》分為四個(gè)部分，分別對應(yīng) AI 系統(tǒng)開發(fā)生命周期的不同階段:安全設(shè)計(jì)、安全開發(fā)、安全部署和安全運(yùn)維。其中，安全設(shè)計(jì)部分提供了關(guān)于 AI 系統(tǒng)設(shè)計(jì)階段的具體指導(dǎo)，強(qiáng)調(diào)識(shí)別風(fēng)險(xiǎn)、進(jìn)行威脅建模以及在系統(tǒng)和模型設(shè)計(jì)中考慮各種主題和權(quán)衡的重要性。安全開發(fā)部分涵蓋了 AI 系統(tǒng)開發(fā)階段的建議，包括確保供應(yīng)鏈安全、保持全面的文檔記錄以及有效管理資產(chǎn)和技術(shù)債務(wù)。安全部署部分涉及 AI 系統(tǒng)的部署階段，其中的指南包括保護(hù)基礎(chǔ)設(shè)施和模型免受威脅、建立事件管理流程以及采用負(fù)責(zé)任發(fā)布原則。安全運(yùn)維部分提供了關(guān)于 AI 模型部署后的運(yùn)維階段的指導(dǎo)，涵蓋有效的日志記錄和監(jiān)控、管理更新以及負(fù)責(zé)任地共享信息等方面。

這些指南適用于所有類型的 AI 系統(tǒng)，指南也適用于所有從事人工智能工作的專業(yè)人士，包括開發(fā)人員、數(shù)據(jù)科學(xué)家、經(jīng)理、決策者和其他 “AI 風(fēng)險(xiǎn)負(fù)責(zé)人”。NCSC 表示:“我們的指南主要針對使用由組織托管的模型的 AI 系統(tǒng)提供商（或使用外部 API 的系統(tǒng)提供商），但我們敦促所有利益相關(guān)者閱讀這些指南，以幫助他們對設(shè)計(jì)、開發(fā)、部署和運(yùn)營 AI 系統(tǒng)做出明智決策?！?這些指南與 G7廣島 AI 進(jìn)程、美國的 AI 自愿承諾以及《安全、可信和可靠人工智能行政命令》保持一致。

繼 AI 安全峰會(huì)的成果之后，代表來自28個(gè)國家的代表在英國歷史悠久的布萊切利公園簽署了《布萊切利關(guān)于 AI 安全的宣言》，強(qiáng)調(diào)了安全、負(fù)責(zé)任地設(shè)計(jì)和部署 AI 系統(tǒng)的重要性，并強(qiáng)調(diào)了合作和透明度。這份宣言承認(rèn)了解決與尖端 AI 模型相關(guān)的風(fēng)險(xiǎn)的必要性，特別是在網(wǎng)絡(luò)安全和生物技術(shù)等領(lǐng)域，并倡導(dǎo)加強(qiáng)國際合作，確保安全、道德和有益地使用人工智能。

網(wǎng)絡(luò)安全專家和分析師對這些 AI 指南的發(fā)布表示歡迎。Darktrace 的全球威脅分析主管 Toby Lewis 稱這些指南是對安全和可信任的人工智能系統(tǒng)的 “一個(gè)受歡迎的藍(lán)圖”。Lewis 在電子郵件中表示:“我很高興看到這些指南強(qiáng)調(diào) AI 提供商需要保護(hù)其數(shù)據(jù)和模型免受攻擊者的攻擊，以及 AI 用戶需要根據(jù)任務(wù)選擇合適的 AI。構(gòu)建安全和可信任的 AI 系統(tǒng)，將加速實(shí)現(xiàn) AI 的效益，并使更多人受益?！?/p>

Informatica 公司南歐區(qū)副總裁 Georges Anidjar 表示，這些指南的發(fā)布是 “解決這一快速發(fā)展領(lǐng)域內(nèi)的網(wǎng)絡(luò)安全挑戰(zhàn)邁出的重要一步”。他在通過電子郵件發(fā)表的聲明中說:“這項(xiàng)國際承諾承認(rèn)了人工智能與數(shù)據(jù)安全之間的重要交集，強(qiáng)調(diào)了在技術(shù)創(chuàng)新和保護(hù)敏感信息方面綜合和負(fù)責(zé)任的方法的必要性?？吹饺蚍秶鷥?nèi)對將安全措施融入 AI 系統(tǒng)的重要性得到認(rèn)可，這對于為企業(yè)和個(gè)人創(chuàng)造更安全的數(shù)字環(huán)境來說是令人鼓舞的。” 他補(bǔ)充說:“從一開始就將安全性納入 AI 系統(tǒng)是與安全數(shù)據(jù)管理原則深度契合的。隨著組織越來越多地利用 AI 的力量，確保支撐這些系統(tǒng)的數(shù)據(jù)具備最高的安全性和完整性至關(guān)重要?！?/p>

（舉報(bào)）