要點(diǎn):

• Mamba架構(gòu)論文，去年底發(fā)布，挑戰(zhàn)Transformer，但在ICLR2024同行評(píng)審中得到低分，可能被拒收。

• LeCun自曝類似經(jīng)歷，指出自己曾有類似經(jīng)歷，即使成就顯著的論文也可能被頂會(huì)拒收。

• 審稿人給出低分的理由，主要集中在對(duì)Mamba模型設(shè)計(jì)和實(shí)驗(yàn)的質(zhì)疑，作者進(jìn)行rebuttal但未得到重視。

站長(zhǎng)之家（ChinaZ.com）1月26日 消息:近期，Mamba架構(gòu)論文因在ICLR2024評(píng)審中得到低分而引起關(guān)注。該架構(gòu)去年底由CMU和普林斯頓的研究者提出，被認(rèn)為有顛覆Transformer的潛力。然而，ICLR評(píng)審中，有一位審稿人給出3分的低分，引發(fā)疑慮。LeCun也躍出來分享自己類似的遭遇，指出即便成就顯著的論文也可能被拒收。這一事件引起了學(xué)術(shù)界的不滿和質(zhì)疑。

論文地址:https://arxiv.org/pdf/2312.00752.pdf

審稿人給出低分的理由主要涉及對(duì)Mamba模型設(shè)計(jì)和實(shí)驗(yàn)的質(zhì)疑。其中，審稿人提到Mamba的設(shè)計(jì)動(dòng)機(jī)，質(zhì)疑其在與其他模型的比較中的性能表現(xiàn)。作者在rebuttal中指出，他們的重點(diǎn)是大規(guī)模預(yù)訓(xùn)練的復(fù)雜性，而Mamba在Wikitext-103上的表現(xiàn)明顯優(yōu)于其他模型。審稿人還對(duì)Mamba是否具有長(zhǎng)度泛化能力提出了質(zhì)疑。對(duì)此，作者回應(yīng)稱他們?cè)陂L(zhǎng)序列方面進(jìn)行了實(shí)驗(yàn)，但這些回應(yīng)未能得到審稿人的認(rèn)同。

LeCun回憶了自己的類似經(jīng)歷，表示即便擁有引用超過1880次的論文，也曾被拒收。這凸顯了同行評(píng)審體系的不確定性和主觀性。雖然Mamba架構(gòu)在學(xué)術(shù)界產(chǎn)生了深刻影響，但遭遇評(píng)審的波折，使得學(xué)術(shù)界對(duì)同行評(píng)審的公正性產(chǎn)生質(zhì)疑。此外，審稿人在rebuttal中提出的問題，雖然作者進(jìn)行了解答，但最終未能改變審稿人的評(píng)分，加劇了學(xué)術(shù)界對(duì)同行評(píng)審的不滿。

整個(gè)過程顯示，學(xué)術(shù)界對(duì)于同行評(píng)審制度的信任程度在下降。有人認(rèn)為，Mamba獲得3分的低分是業(yè)界的笑話。這一事件或許需要學(xué)術(shù)界進(jìn)一步探討和改進(jìn)同行評(píng)審制度，以確保更公正、客觀的評(píng)價(jià)，避免因?yàn)橹饔^因素而損害具有潛力的研究。在這個(gè)過程中，LeCun的經(jīng)歷成為引發(fā)討論的契機(jī)，引導(dǎo)學(xué)術(shù)界關(guān)注同行評(píng)審制度的合理性和公正性。

（舉報(bào)）