站長之家(ChinaZ.com) 10月10日 消息:10月9日,初創(chuàng)公司Moonshot AI(月之暗面)宣布在長文本領(lǐng)域取得了突破,推出了首個(gè)支持輸入20萬漢字的智能助手產(chǎn)品Kimi Chat。
這是目前全球市場上能夠產(chǎn)品化使用的大模型服務(wù)中所能支持的最長上下文輸入長度,標(biāo)志著Moonshot AI在這一重要技術(shù)上具有世界領(lǐng)先水平。
據(jù)悉,相比當(dāng)前市面上以英文為基礎(chǔ)訓(xùn)練的大模型服務(wù),Kimi Chat具備較強(qiáng)的多語言能力。例如,Kimi Chat在中文上具備顯著優(yōu)勢,實(shí)際使用效果能夠支持約20萬漢字的上下文,比Anthropic公司的Claude-100k和OpenAI公司的GPT-4-32k的中文處理能力更強(qiáng)。
同時(shí),Kimi Chat通過創(chuàng)新的網(wǎng)絡(luò)結(jié)構(gòu)和工程優(yōu)化,在千億參數(shù)下實(shí)現(xiàn)了無損的長程注意力機(jī)制,不依賴于滑動(dòng)窗口、降采樣、小模型等對(duì)性能損害較大的“捷徑”方案。
申請?bào)w驗(yàn)地址:moonshot.cn
(舉報(bào))