繼續(xù)放任 AI 的“野蠻”生長，可能會最終導(dǎo)致養(yǎng)虎為患的結(jié)局……

站長之家(ChinaZ.com) 4月27日 消息:被稱為“AI教父”的多倫多大學(xué)名譽(yù)教授、 2018 年圖靈獎得主杰弗里·辛頓（Geoffrey Hinton）在最近的預(yù)測中稱，人類可能會將這個世界的“主宰權(quán)”拱手讓給 AI。這位諾貝爾物理學(xué)獎得主再次針對 AI 的危險性，發(fā)出了警告：AI就像一只“虎崽”。

當(dāng)?shù)貢r間 26 日，辛頓教授接受了美國哥倫比亞廣播公司（CBS）新聞的采訪，他在采訪中表達(dá)了對 AI 技術(shù)快速發(fā)展可能威脅人類的擔(dān)憂。辛頓教授在開發(fā)作為 AI 學(xué)習(xí)所需核心技術(shù)的大型語言模型（LLM）方面發(fā)揮了先驅(qū)作用，他是代表性 的“AI 末日論者”（doomer，即人工智能毀滅論者），曾多次公開警告人工智能的危險性。

辛頓教授曾在谷歌擔(dān)任副總裁一職，但在 2023 年離開谷歌后，便一直對 AI 可能超越人類的風(fēng)險發(fā)出警告。在當(dāng)天的采訪中，他描述了人類如今依賴著快速發(fā)展的人工智能技術(shù)，并表示：“最能從情感上理解這種情況的方式，便是：想象我們是擁有一只非?？蓯鄣男±匣⒌娜?。”他還說道：“如果你不能確定這只小老虎長大后會不會把你咬死，那你就應(yīng)該感到擔(dān)憂?！?/p>

辛頓教授還警告稱，有 10% - 20% 的風(fēng)險，AI 最終會從人類手中奪走控制權(quán)。他還表示：“人們還沒有 get 到這一點(diǎn)，也不明白即將到來的會是什么?！?/p>

辛頓教授批評說，包括他曾任職的谷歌，以及埃隆?馬斯克（Elon Musk）的 xAI、山姆?奧爾特曼（Sam Altman）的 OpenAI 等具有代表性的大型科技企業(yè)，雖然已經(jīng)意識到了這種擔(dān)憂，但這些企業(yè)將把“賺錢”擺在了第 一位 —— 置于將本該優(yōu)先考慮的安全之上。

他指出，這些大企業(yè) “正在為減少對 AI 的監(jiān)管進(jìn)行各方游說”，并特別提到對谷歌改變其在 AI 技術(shù)軍 事應(yīng)用方面的立場感到失望。辛頓教授接著強(qiáng)調(diào)，這些 AI 企業(yè)必須大幅增加在 AI 安全性研究方面投入的資源和力量 —— 應(yīng)該將三分之一的計算能源投入到安全性研究中。

（舉報）