羅福莉:MiMo-V2.6或完成開源模型領域規模最大的單次強化學習訓練之一

據PANews發布,PANews 9月22日消息,小米MiMo團隊成員羅福莉發文表示,MiMo-V2.6按算力規模計,可能是迄今開源模型團隊開展的最大規模單次強化學習訓練之一。團隊在算力緊缺的情況下,投入數十人並持續較長時間推進強化學習擴展,模型能力在中期訓練階段形成,並通過大規模強化學習進一步釋放。她稱,團隊針對代碼等可驗証的中等難度任務採用MixRL訓練,對難以驗証、超長週期或復雜度過高的任務則單獨訓練,再通過MOPD閤並能力。為推動智能體強化學習研究,團隊還發布了一個由MiMo強化學習軌跡蒸餾而來的Qwen模型、7000個多樣化環境以及完整的強化學習訓練框架。
利多 査看原文
你怎麼看這條消息?來投第一票

評論

0/500
免責聲明:本文內容僅供參考,不構成任何投資建議。
更多快訊