每日經(jīng)濟新聞 2026-05-09 16:11:01
每經(jīng)AI快訊，5月9日，MiniMax官微發(fā)長文回應M2系列模型無法說出馬嘉祺一事，提供了對“嘉祺識別”問題的完整排查過程和技術(shù)思考。MiniMax表示，其從分詞器版本對齊、embedding統(tǒng)計分布、語義近鄰檢索、預訓練與后訓練模型的few-shot對比實驗、后訓練數(shù)據(jù)頻次統(tǒng)計以及對全詞表lm_head變化幅度的排序掃描等多個維度進行了排查。最終定位到的原因是：“嘉祺”在分詞器中被合并為一個獨立token，但該token在后訓練數(shù)據(jù)中出現(xiàn)頻次極低，導致模型在后訓練中逐漸遺忘了對該token的生成能力。
如需轉(zhuǎn)載請與《每日經(jīng)濟新聞》報社聯(lián)系。
未經(jīng)《每日經(jīng)濟新聞》報社授權(quán)，嚴禁轉(zhuǎn)載或鏡像，違者必究。
讀者熱線：4008890008
特別提醒：如果我們使用了您的圖片，請作者與本站聯(lián)系索取稿酬。如您不希望作品出現(xiàn)在本站，可聯(lián)系我們要求撤下您的作品。
歡迎關(guān)注每日經(jīng)濟新聞APP
Copyright ? 2026 每日經(jīng)濟新聞報社版權(quán)所有，未經(jīng)許可不得轉(zhuǎn)載使用，違者必究。
廣告熱線? 北京: 010-57613265，?上海: 021-61283008，?廣州: 020-84201861，?深圳: 0755-83520159，?成都: 028-86512112
