站長之家(ChinaZ.com) 6月1日消息:美國一位網(wǎng)絡(luò)安全高級官員周三表示，如果科技公司未能自我約束并與政府合作控制人工智能的力量，人類可能面臨「滅絕事件」的風(fēng)險。

這番言論是在數(shù)百名科技領(lǐng)袖和公眾人物支持類似聲明的一天后發(fā)表的，該聲明將人工智能的存在威脅比作大流行病或核戰(zhàn)爭。

該聲明的簽署者中有 350 人，其中包括 OpenAI 首席執(zhí)行官 Sam Altman 和谷歌 DeepMind 的首席執(zhí)行官 Demis Hassabis 等知名人士。

在回應(yīng)有關(guān)這份聯(lián)合聲明的問題時，網(wǎng)絡(luò)安全與基礎(chǔ)設(shè)施安全局局長 Jen Easterly 敦促簽署者自我約束并與政府合作。

Easterly 表示：「我要求這 350 人和 AI 開發(fā)商在我們努力建立監(jiān)管框架的同時，思考自我約束，思考你們可以做些什么來減緩這個過程，以免給人類帶來滅絕事件?！?span style="text-indent: 2em;">Easterly 補(bǔ)充道：「如果你們真的認(rèn)為這些能力可能導(dǎo)致人類的滅絕，那么讓我們團(tuán)結(jié)起來采取行動吧。」

周二，行業(yè)領(lǐng)袖發(fā)出了警告。這家位于舊金山的非營利組織 AI 安全中心發(fā)布了一句簡短的聲明，稱「減輕人工智能帶來的滅絕風(fēng)險應(yīng)該與流行病和核戰(zhàn)爭等社會規(guī)模風(fēng)險一樣成為全球重點」。

支持這一聲明的人士還包括音樂家格萊姆斯（Grimes）、環(huán)保活動家比爾·麥基本（Bill McKibben）和神經(jīng)科學(xué)作家山姆·哈里斯（Sam Harris）等公眾人物。

作為人工智能行業(yè)的高管，Altman 在大約兩周前的參議院作證中表示，他支持政府監(jiān)管以避免人工智能的有害影響。Altman 表示：「如果這項技術(shù)出了問題，后果可能會很嚴(yán)重?！?/span>

他還補(bǔ)充說：「我們認(rèn)為，政府的監(jiān)管干預(yù)對于減輕日益強(qiáng)大的模型的風(fēng)險至關(guān)重要，」并提議采取許可證或?qū)?AI 模型操作所需的安全要求。

與其他啟用人工智能的聊天機(jī)器人一樣，ChatGPT 可以立即回應(yīng)用戶在各種主題上的提示，例如生成一篇關(guān)于莎士比亞的文章或給定目的地的旅行建議。

微軟于今年三月推出了其必應(yīng)搜索引擎的一個版本，使用了最新的 ChatGPT 模型 GPT-4 來提供回答。競爭對手谷歌在今年二月宣布了一個名為 Bard 的人工智能聊天機(jī)器人。

大量由人工智能生成的內(nèi)容的增加引發(fā)了人們對于可能傳播錯誤信息、仇恨言論和操縱性回應(yīng)的擔(dān)憂。

在周三的講話中，Easterly 說：「歸根結(jié)底，這些能力將創(chuàng)造令人驚嘆的事物。它們將讓我們的生活更輕松、更美好?！顾a(bǔ)充道：「它們也將讓我們的對手的生活更輕松、更美好，對手將會在這個領(lǐng)域充斥著虛假信息，能夠發(fā)動網(wǎng)絡(luò)攻擊和制造各種武器?！?/span>

（舉報）