11.11云上盛惠!海量產(chǎn)品 · 輕松上云!云服務(wù)器首年1.8折起,買(mǎi)1年送3個(gè)月!超值優(yōu)惠,性能穩(wěn)定,讓您的云端之旅更加暢享。快來(lái)騰訊云選購(gòu)吧!
一項(xiàng)新研究發(fā)現(xiàn),OpenAI的ChatGPT等大型語(yǔ)言模型經(jīng)常重復(fù)陰謀論、有害的刻板印象和其他形式的錯(cuò)誤信息。圖源備注:圖片由AI生成,圖片授權(quán)服務(wù)商Midjourney最近的一項(xiàng)研究中,加拿大滑鐵盧大學(xué)的研究人員系統(tǒng)地測(cè)試了ChatGPT對(duì)六個(gè)類(lèi)別的聲明的理解。”研究中,研究人員使用了四種不同的調(diào)查模板,詢問(wèn)了超過(guò)1200個(gè)不同的陳述,涵蓋了六個(gè)類(lèi)別的事實(shí)和錯(cuò)誤信息。
對(duì)大型語(yǔ)言模型的新研究表明,它們重復(fù)了陰謀論、有害的刻板印象和其他形式的錯(cuò)誤信息。在最近的一項(xiàng)研究中,滑鐵盧大學(xué)的研究人員系統(tǒng)地測(cè)試了ChatGPT早期版本對(duì)六類(lèi)陳述的理解:事實(shí)、陰謀、爭(zhēng)議、誤解、刻板印象和虛構(gòu)。”布朗補(bǔ)充道:“毫無(wú)疑問(wèn),大型語(yǔ)言模型無(wú)法區(qū)分真實(shí)與虛構(gòu),這將成為未來(lái)很長(zhǎng)一段時(shí)間內(nèi)對(duì)這些系統(tǒng)信任的基本問(wèn)題。
加拿大的一位高級(jí)網(wǎng)絡(luò)安全官員表示,黑客和宣傳人員正在利用人工智能來(lái)創(chuàng)建惡意軟件、起草令人信服的網(wǎng)絡(luò)釣魚(yú)電子郵件并在網(wǎng)上傳播虛假信息。這種現(xiàn)象對(duì)于網(wǎng)絡(luò)安全形勢(shì)來(lái)說(shuō)是一個(gè)巨大的威脅。他們還提出了一些建議,包括加強(qiáng)對(duì)AI技術(shù)的監(jiān)管和審查,提高網(wǎng)絡(luò)安全意識(shí)和素養(yǎng),加強(qiáng)網(wǎng)絡(luò)安全教育和培訓(xùn)。
蘋(píng)果公司聯(lián)合創(chuàng)始人史蒂夫·沃茲尼亞克警告說(shuō),人工智能可能使詐騙和錯(cuò)誤信息更難發(fā)現(xiàn)。沃茲尼亞克說(shuō),他擔(dān)心這項(xiàng)技術(shù)會(huì)被「壞人」所利用。蘋(píng)果公司的現(xiàn)任+CEO+蒂姆·庫(kù)克上周告訴投資者,在如何處理人工智能方面「深思熟慮」很重要:「我們認(rèn)為人工智能是強(qiáng)大的,我們將繼續(xù)在非常深思熟慮的基礎(chǔ)上將其編織到我們的產(chǎn)品中。
一直以來(lái),關(guān)于AI是否侵權(quán)的相關(guān)話題的討論就沒(méi)有停止。自從ChatGPT打開(kāi)了生成式AI新大門(mén),AI侵權(quán)的風(fēng)險(xiǎn)被進(jìn)一步放大。生成式AI是從2022年才開(kāi)始爆火,時(shí)間還很短,但是我們一系列爭(zhēng)議和訴訟中也要看到積極的一面,這些都是促使AI版權(quán)完善的重要途徑。
此前已有無(wú)數(shù)研究表明,不準(zhǔn)確或誤導(dǎo)性的視頻無(wú)處不在,而算法可能盲目地將此類(lèi)視頻推送給更多人...之前一種策略是將人們與來(lái)自傳統(tǒng)循證科學(xué)服務(wù)的信息聯(lián)系起來(lái),其中包括了醫(yī)院、疾控中心和衛(wèi)生當(dāng)局的來(lái)源...為了避免人們誤入歧途,油管顯然需要對(duì)個(gè)人故事展開(kāi)科學(xué)審查,以從源頭阻斷虛假信息的傳播...所以在一支臨床醫(yī)生團(tuán)隊(duì)的幫助下,該平臺(tái)首先需要確保個(gè)人故事沒(méi)有超出傳統(tǒng)循證健康信息的范疇...但在此之外,他們也希望允許人們從健康角度獲得各種不同的體驗(yàn)......
接下來(lái)幾周時(shí)間內(nèi),谷歌將在波蘭與捷克斯洛伐克投放視頻廣告,旨在幫助網(wǎng)民辨識(shí)與駁斥反移民的不實(shí)負(fù)面報(bào)道...接下來(lái)幾周,Jigsaw 將在波蘭和捷克斯洛伐克等地投放一系列視頻廣告,以幫助人們識(shí)別并反駁與難民相關(guān)的不實(shí)負(fù)面報(bào)道...需要指出的是,這些視頻投放不僅是為了提升 YouTube 聲譽(yù),也是 Jigsaw 長(zhǎng)達(dá)數(shù)年的研究項(xiàng)目的一部分...Jigsaw 希望借助視頻的力量,給在社交媒體上可能遇到各種錯(cuò)誤信息的人打一劑預(yù)防針,以免其受到偏執(zhí)的影響......
在Twitter跟埃隆·馬斯克的法律斗爭(zhēng)及其前安全主管變成舉報(bào)人的混亂中,這家公司正在將其打擊錯(cuò)誤信息和有害內(nèi)容的團(tuán)隊(duì)跟負(fù)責(zé)刪除垃圾郵件賬戶的團(tuán)隊(duì)合并...路透社的報(bào)道指出,現(xiàn)任和前任員工認(rèn)為,團(tuán)隊(duì)重組可能無(wú)濟(jì)于事,因?yàn)閱?wèn)題上的垃圾郵件賬戶問(wèn)題的原因歷來(lái)比一個(gè)團(tuán)隊(duì)可以單獨(dú)管理的問(wèn)題更深...在今年早些時(shí)候提交給美SEC、FTC和DOJ的一份投訴中,該公司的前安全主管Peiter"Mudge"Zatko強(qiáng)調(diào)了Twitter對(duì)垃圾郵件賬戶的不當(dāng)處理......
他寫(xiě)道:“Meta的COVID-19信息中心已經(jīng)將189個(gè)國(guó)家的20多億人與有用的、權(quán)威的COVID-19信息聯(lián)系起來(lái)...
毒理學(xué)家也對(duì)社交媒體上分享的危險(xiǎn)的DIY墮胎方法表示擔(dān)憂...