11.11云上盛惠!海量產(chǎn)品 · 輕松上云!云服務(wù)器首年1.8折起,買(mǎi)1年送3個(gè)月!超值優(yōu)惠,性能穩(wěn)定,讓您的云端之旅更加暢享??靵?lái)騰訊云選購(gòu)吧!
隨著深度學(xué)習(xí)模型在自然語(yǔ)言處理等領(lǐng)域的廣泛應(yīng)用,模型推理速度和性能成為關(guān)鍵問(wèn)題。由快手主導(dǎo)的研究成果《SAMP:基于自適應(yīng)混合精度的訓(xùn)練后量化模型推理庫(kù)》成功入選該領(lǐng)域頂級(jí)會(huì)議EMNLP2023,并于新加坡現(xiàn)場(chǎng)展示和分享。該會(huì)議曾推動(dòng)了預(yù)訓(xùn)練語(yǔ)言模型、文本挖掘、對(duì)話(huà)系統(tǒng)、機(jī)器翻譯等自然語(yǔ)言處理領(lǐng)域的核心創(chuàng)新,在學(xué)術(shù)和工業(yè)界都有巨大的影響力,此次入選也意味著快手在該領(lǐng)域的研究成果獲得了國(guó)際學(xué)者的認(rèn)可。
研究人員從斯坦福大學(xué)和UNCChapelHill共同努力解決了大語(yǔ)言模型產(chǎn)生的事實(shí)性錯(cuò)誤的問(wèn)題,這些錯(cuò)誤被稱(chēng)為“幻覺(jué)”。在沒(méi)有人工標(biāo)記的情況下,研究人員通過(guò)微調(diào)LLMs,采用新穎的方法,以在開(kāi)放式生成環(huán)境中提高事實(shí)準(zhǔn)確性。對(duì)提取原子事實(shí)的簡(jiǎn)化方法進(jìn)行調(diào)查,并將事實(shí)性調(diào)諧方法擴(kuò)展到更大的模型,如GPT-4,提出了進(jìn)一步探討的建議。
深言科技與清華大學(xué)NLP實(shí)驗(yàn)室聯(lián)合開(kāi)源了LingoWhale-8B模型,這是一種擁有約80億參數(shù)的中英雙語(yǔ)大語(yǔ)言模型。該模型在多個(gè)公開(kāi)評(píng)測(cè)基準(zhǔn)上達(dá)到領(lǐng)先效果,在10B以下開(kāi)源模型中表現(xiàn)出色。商業(yè)用途下需要申請(qǐng)并獲得官方授權(quán)。
國(guó)內(nèi)領(lǐng)先的人工智能大模型公司面壁智能又放大招,聯(lián)合清華大學(xué)NLP實(shí)驗(yàn)室共同研發(fā)并推出大模型「超級(jí)英雄」——XAgent。通過(guò)任務(wù)測(cè)試,XAgent在真實(shí)復(fù)雜任務(wù)的處理能力已全面超越AutoGPT。XAgent拓展了AI智能體在執(zhí)行復(fù)雜任務(wù)中的能力上限,讓我們看到大模型技術(shù)融入生產(chǎn)和生活的前沿趨勢(shì)和無(wú)限潛力。
度小滿(mǎn)在“NLP金融”的技術(shù)落地之路深耕多年,在NLP方面的積累顯得尤為突出。大模型的興起為金融領(lǐng)域的NLP應(yīng)用打開(kāi)了新的想象空間。度小滿(mǎn)的成功實(shí)踐證明了NLP技術(shù)在金融領(lǐng)域的巨大潛力,也為未來(lái)的金融智能化發(fā)展提供了有效方向。
復(fù)旦大學(xué)自然語(yǔ)言處理團(tuán)隊(duì)推出LLM-basedAgents綜述論文,全文長(zhǎng)達(dá)86頁(yè),共有600余篇參考文獻(xiàn)!作者們從AIAgent的歷史出發(fā),全面梳理了基于大型語(yǔ)言模型的智能代理現(xiàn)狀,包括:LLM-basedAgent的背景、構(gòu)成、應(yīng)用場(chǎng)景、以及備受關(guān)注的代理社會(huì)。作者們探討了Agent相關(guān)的前瞻開(kāi)放問(wèn)題,對(duì)于相關(guān)領(lǐng)域的未來(lái)發(fā)展趨勢(shì)具有重要價(jià)值。就像其他的云服務(wù)一樣,AaaS有潛力為用戶(hù)提供高靈活性?
卡內(nèi)基梅隆大學(xué)和清華大學(xué)的研究人員開(kāi)發(fā)了Prompt2Model系統(tǒng),可以根據(jù)提示自動(dòng)生成專(zhuān)用NLP模型。Prompt2Model并不是GPT-4的替代品是用于特殊用途NLP模型的自動(dòng)化管道,這些模型可以很好地執(zhí)行特定任務(wù),比大型模型小得多,因此可以在低端的的硬件上本地運(yùn)行。團(tuán)隊(duì)正在探索集成大規(guī)模開(kāi)源語(yǔ)言模型來(lái)減少對(duì)專(zhuān)有API的依賴(lài)。
隨著AI應(yīng)用領(lǐng)域的不斷擴(kuò)大,NLP技術(shù)也迎來(lái)了更好的發(fā)展時(shí)期。NLP技術(shù)在金融領(lǐng)域的應(yīng)用可以說(shuō)是備受期待。度小滿(mǎn)從人才建設(shè)、技術(shù)創(chuàng)新等方面著手,不斷探索NLP與金融結(jié)合的諸多可能性,持續(xù)推動(dòng)NLP等技術(shù)落地金融各大場(chǎng)景,為金融行業(yè)創(chuàng)新發(fā)展注入活力。
在金融行業(yè)數(shù)智化轉(zhuǎn)型的過(guò)程中,如何推動(dòng)NLP等前沿技術(shù)在金融領(lǐng)域的運(yùn)用是度小滿(mǎn)一直深入思考和探索的主題。度小滿(mǎn)深耕“NLP金融”多年,做了充分的技術(shù)儲(chǔ)備和人才培養(yǎng),并斬獲多項(xiàng)成果,持續(xù)推動(dòng)NLP在金融場(chǎng)景的應(yīng)用。作為深耕“NLP金融”技術(shù)落地之路五年的金融科技企業(yè),度小滿(mǎn)在NLP領(lǐng)域已經(jīng)形成了一定的技術(shù)積累,未來(lái)有望迎來(lái)更多發(fā)展機(jī)遇。
華師大HugAILab團(tuán)隊(duì)研發(fā)了HugNLP框架,這是一個(gè)面向研究者和開(kāi)發(fā)者的全面統(tǒng)一的NLP訓(xùn)練框架,可支持包括文本分類(lèi)、文本匹配、問(wèn)答、信息抽取、文本生成、小樣本學(xué)習(xí)等多種NLP任務(wù)模型搭建和訓(xùn)練。開(kāi)源地址:https://github.com/HugAILab/HugNLP論文:https://arxiv.org/abs/2302.14286值得注意的是,HugNLP還集成了大量最新的Prompt技術(shù),例如Prompt-Tuning、In-Context+Learning、Instruction-tuning,未來(lái)還將引?