劃重點(diǎn):

- ?? 新發(fā)布的 OpenAI 視頻生成工具 Sora 可以根據(jù)用戶提示制作長達(dá)一分鐘的視頻。

- ??? 專家擔(dān)心，這種視頻生成器可能加劇互聯(lián)網(wǎng)不實(shí)信息和政府宣傳，使真假內(nèi)容之間的界限更加模糊。

- ?? OpenAI 已經(jīng)采取措施防止濫用 Sora，但專家仍擔(dān)心其可能產(chǎn)生深度偽造視頻。

站長之家（ChinaZ.com）2月19日 消息:OpenAI 最新推出的視頻生成工具 Sora 展示了一個陽光普照的達(dá)爾馬提亞狗躡手躡腳地走過窗臺、一場中國新年游行席卷城市街道、一名考古學(xué)家在沙漠沙地上挖掘出一把椅子。這些視頻是在線發(fā)布的，但實(shí)際上并沒有發(fā)生。它們構(gòu)成了 OpenAI 最新推出的視頻生成工具 Sora 公開提供的第一個作品。

Sora 可以根據(jù)用戶提示制作長達(dá)一分鐘的視頻，就像 ChatGPT 會以文字回復(fù)、Dall-E 會提供圖像一樣。目前，視頻生成器正在一組產(chǎn)品測試人員中使用，但尚未向公眾開放，OpenAI 在周四的一份聲明中表示。

專家表示，這些產(chǎn)品有望改進(jìn)和簡化視頻敘事，但也可能加劇互聯(lián)網(wǎng)不實(shí)信息，增強(qiáng)政府宣傳，使網(wǎng)絡(luò)上已經(jīng)模糊的真假內(nèi)容之間的界限更加模糊。

與此同時，人工智能生成的視頻可能會強(qiáng)化從生成這些內(nèi)容的訓(xùn)練材料中獲取的仇恨或偏見觀點(diǎn)，他們補(bǔ)充說。專家對 OpenAI 采取的措施以防止濫用 Sora 表示關(guān)注。

不過，OpenAI 指向了一篇網(wǎng)頁，詳細(xì)介紹了公司為防止 Sora 濫用所采取的措施。根據(jù)公司網(wǎng)站的說法，OpenAI 計(jì)劃采取一些重要的安全措施，以避免 Sora 的濫用。

專家HIA表示，難以評估尚未向普通公眾發(fā)布的演示產(chǎn)品。然而，他們對視頻生成器的濫用機(jī)會和實(shí)施完全有效保護(hù)措施的挑戰(zhàn)表示擔(dān)憂。

AI 生成的內(nèi)容的風(fēng)險在近幾周內(nèi)引起了廣泛關(guān)注。今年1月底，一組虛假的、涉及泰勒?斯威夫特 （Taylor Swift） 的 AI 生成色情圖片在社交媒體上走紅，獲得了數(shù)百萬次瀏覽。上個月，一條冒充美國總統(tǒng)喬?拜登 (Joe Biden) 聲音的虛假電話呼叫勸阻人們不要在新罕布什爾州初選中投票。

專家贊揚(yáng)了 OpenAI 為阻止 Sora 的濫用所采取的措施。他們警告說，這種產(chǎn)品可能具有創(chuàng)作深度偽造視頻的能力，并且很難防止這樣的視頻出現(xiàn)。隨著 OpenAI 為 Sora 實(shí)施的安全措施，如檢測分類器和數(shù)字水印，專家對其表示肯定，但也提醒視頻可能會被復(fù)制或更改以移除標(biāo)簽。人們將設(shè)法規(guī)避設(shè)置的防護(hù)欄，這將成為一場軍備競賽。

（舉報）