速度提高200倍！DeepMind推新的微調(diào)擴(kuò)散模型方法DRaFT

擴(kuò)散模型徹底改變了各種數(shù)據(jù)類型的生成建模。在實(shí)際應(yīng)用中，例如從文本描述生成美觀的圖像，通常需要微調(diào)。DRaFT方法的效率、通用性和有效性，使其成為這個(gè)領(lǐng)域研究者和從業(yè)者的有價(jià)值工具。

DeepMind讓大模型學(xué)會(huì)歸納和演繹，GPT-4準(zhǔn)確率提升13.7%

大型語言模型在推理任務(wù)上表現(xiàn)出令人驚艷的能力，特別是在給出一些樣例和中間步驟時(shí)。prompt方法往往依賴于LLM中的隱性知識，當(dāng)隱性知識存在錯(cuò)誤或者與任務(wù)不一致時(shí)，LLM就會(huì)給出錯(cuò)誤的回答。對于GPT3.5來說，這種改進(jìn)并不顯著，因?yàn)樵谔幚砦谋据斎霑r(shí)，它經(jīng)常產(chǎn)生除規(guī)則幻覺以外的錯(cuò)誤。

薦視覺Transformer中ReLU替代softmax，DeepMind新招讓成本速降

Transformer架構(gòu)已經(jīng)在現(xiàn)代機(jī)器學(xué)習(xí)領(lǐng)域得到了廣泛的應(yīng)用。注意力是transformer的一大核心組件，其中包含了一個(gè)softmax，作用是產(chǎn)生token的一個(gè)概率分布。對于使用ReLU的S/8模型，這種門控機(jī)制會(huì)將實(shí)驗(yàn)所需的核心時(shí)間增多大約9.3%。

DeepMind新AI模型AlphaMissense可預(yù)測遺傳疾病

GoogleDeepMind發(fā)布了一款名為AlphaMissense的新型人工智能模型，該模型專注于分析DNA突變對健康的影響，預(yù)測基因錯(cuò)義變異的致病性，從加速了罕見疾病的研究。該模型不僅為醫(yī)學(xué)研究領(lǐng)域帶來了革命性的工具展示了人工智能在生物學(xué)中的廣泛應(yīng)用潛力。它可以幫助快速排除不太可能導(dǎo)致疾病的基因變異，但最終的診斷和治療仍需要深入的臨床研究。

Google DeepMind提出DRaFT算法以高效優(yōu)化擴(kuò)散模型

擴(kuò)散模型已經(jīng)革新了各類數(shù)據(jù)的生成建模。但是在實(shí)際應(yīng)用中，如根據(jù)文本描述生成美觀圖像，仍需要微調(diào)模型。其效率、通用性和有效性使其成為機(jī)器學(xué)習(xí)和生成建模領(lǐng)域研究者和從業(yè)者的有價(jià)值工具。

薦DeepMind創(chuàng)始人：生成式AI只是過渡，AI未來將獲得自由，交互式AI將改變?nèi)祟?/a>

DeepMind研究人員發(fā)現(xiàn)，深度學(xué)習(xí)模型在圖像和音頻壓縮方面表現(xiàn)出色

Google旗下的人工智能子公司DeepMind發(fā)布的一項(xiàng)研究表明，大型語言模型除了在文本數(shù)據(jù)處理方面表現(xiàn)出色之外具備出色的圖像和音頻數(shù)據(jù)壓縮能力。這一發(fā)現(xiàn)為重新審視LLMs的潛力提供了新的角度。這表明LLMs的性能與數(shù)據(jù)集的大小有關(guān)，壓縮率可以作為評估模型對數(shù)據(jù)集信息學(xué)習(xí)的指標(biāo)。

谷歌DeepMind聯(lián)合創(chuàng)始人：生成式AI只是一個(gè)階段 未來發(fā)展方向是交互式AI

谷歌DeepMind聯(lián)合創(chuàng)始人穆斯塔法·蘇萊曼在接受MITTechnologyReview采訪時(shí)表示，生成式人工智能只是人工智能發(fā)展的一個(gè)階段，未來的趨勢將是交互式AI。這是技術(shù)史上一個(gè)非常深刻的時(shí)刻許多人對此可能低估了重要性。這一轉(zhuǎn)變可能會(huì)對技術(shù)產(chǎn)業(yè)和應(yīng)用帶來深遠(yuǎn)的影響。

薦「深呼吸」讓大模型表現(xiàn)更佳！谷歌DeepMind利用大語言模型生成Prompt，還是AI更懂AI

【新智元導(dǎo)讀】谷歌DeepMind提出了一個(gè)全新的優(yōu)化框架OPRO，僅通過自然語言描述就可指導(dǎo)大語言模型逐步改進(jìn)解決方案，實(shí)現(xiàn)各類優(yōu)化任務(wù)。「深呼吸，一步一步地解決這個(gè)問題。這項(xiàng)研究首次提出并驗(yàn)證了使用大語言模型進(jìn)行優(yōu)化的有效性，為利用LLM進(jìn)行更廣泛優(yōu)化任務(wù)提供了框架和經(jīng)驗(yàn)，是這個(gè)新的研究方向的開拓性工作，具有重要意義。

?DeepMind研發(fā)新AI項(xiàng)目Open-X Embodiment，可控制各種類型的機(jī)器人

GoogleDeepMind與33家其他研究機(jī)構(gòu)合作推出了一個(gè)令人矚目的新項(xiàng)目，旨在解決機(jī)器人領(lǐng)域的一個(gè)重大挑戰(zhàn):為每個(gè)機(jī)器人、任務(wù)和環(huán)境訓(xùn)練機(jī)器學(xué)習(xí)模型所需的巨大工作量。這個(gè)項(xiàng)目的目標(biāo)是創(chuàng)建一個(gè)通用型AI系統(tǒng)，能夠與不同類型的物理機(jī)器人協(xié)同工作，并執(zhí)行多種任務(wù)。機(jī)器人領(lǐng)域的未來在于使機(jī)器人能夠相互學(xué)習(xí)，讓研究人員互相學(xué)習(xí)。