站長(zhǎng)之家(ChinaZ.com) 5月25日 消息:谷歌最新推出的AI Overviews功能近期在社交媒體上引發(fā)了廣泛爭(zhēng)議。用戶們分享了AI給出的一些建議，包括在披薩上涂膠水和吃石頭等，這些內(nèi)容不僅令人困惑，甚至可能危險(xiǎn)。這些爭(zhēng)議性內(nèi)容的傳播，導(dǎo)致谷歌不得不手動(dòng)禁用特定搜索的AI Overviews功能。
AI Overviews是谷歌在2023年5月作為搜索生成體驗(yàn)測(cè)試版推出的產(chǎn)品，至今已處理超過(guò)10億次查詢。盡管如此，谷歌首席執(zhí)行官Sundar Pichai表示，公司已將提供AI答案的成本降低了80%，這得益于硬件、工程和技術(shù)的突破。然而，這次事件表明，技術(shù)優(yōu)化可能過(guò)早，產(chǎn)品尚未完全成熟。
AI領(lǐng)域的專家、紐約大學(xué)神經(jīng)科學(xué)名譽(yù)教授Gary Marcus對(duì)The Verge表示，許多AI公司都在“兜售夢(mèng)想”，希望將技術(shù)的正確率從80%提高到100%。Marcus指出，實(shí)現(xiàn)最初的80%相對(duì)容易，但最后的20%極具挑戰(zhàn)性，因?yàn)檫@需要AI進(jìn)行推理和事實(shí)核查，可能需要通用人工智能的能力。
谷歌發(fā)言人Meghann Farnsworth在給The Verge的電子郵件中表示，公司正在“迅速采取行動(dòng)”，根據(jù)內(nèi)容政策刪除某些查詢的AI Overviews，并利用這些示例對(duì)系統(tǒng)進(jìn)行更廣泛的改進(jìn)。Farnsworth還提到，許多示例都是不常見的查詢，有些被篡改或無(wú)法重現(xiàn)。
目前，谷歌面臨著激烈的市場(chǎng)競(jìng)爭(zhēng)，Bing、OpenAI等競(jìng)爭(zhēng)對(duì)手在AI領(lǐng)域已先行一步，而年輕用戶越來(lái)越多地轉(zhuǎn)向TikTok等新興平臺(tái)。谷歌的AI Overviews功能雖然野心勃勃，但當(dāng)前的聲譽(yù)和成功取決于其能否提供基礎(chǔ)的正確性和可靠性。
AI Overviews的發(fā)布混亂，反映了谷歌在AI領(lǐng)域的壓力和挑戰(zhàn)。盡管谷歌有著宏偉的計(jì)劃，包括復(fù)雜查詢的多步推理、生成AI組織的結(jié)果頁(yè)面、Google Lens中的視頻搜索等，但目前公司的首要任務(wù)是確保AI輸出的準(zhǔn)確性和安全性，以贏得用戶的信任并實(shí)現(xiàn)長(zhǎng)期目標(biāo)。
（舉報(bào)）