Ricursive自訓65B模型:5人研發團隊,編程能力逼近美國開源第一梯隊
BiRun 訊,由 Google DeepMind 前研究員創立的 AI 公司 Ricursive Intelligence,發布開源模型 Ripple-65B Preview。兩位創始人曾主導 AlphaChip 項目,利用 AI 自動優化 Google TPU 芯片佈侷。
Ripple 是一款從零訓練的 650 億參數稠密模型,使用 12 萬億 Token 訓練數據,支持最長 100 萬 Token 上下文。在官方公佈的 Terminal-Bench 2.1 編程測試中,它獲得 80.5% 的成績,略高於 5010 億參數的 Reflection Beam(80.1%),也超過了 9750 億參數的 Inkling(63.8%)。
Ricursive 稱,模型研發總共只花了 3200 萬美元,團隊在開發過程中從 1 人擴展到 5 人。他們通過改進模型架構、訓練數據和強化學習方法,提高訓練效率。在 40 億參數規模的對照實驗中,達到相近代碼能力所需的算力降低了約 16 倍。
目前,Ripple 已按 Apache 2.0 許可証開源模型權重。四位量化後預計佔用約 36–40GB,理論上可以在 64GB 及以上內存的 Mac 上本地運行。
信源
動察 Beating 頻道 · 動察 Beating 交流羣。
Ripple 是一款從零訓練的 650 億參數稠密模型,使用 12 萬億 Token 訓練數據,支持最長 100 萬 Token 上下文。在官方公佈的 Terminal-Bench 2.1 編程測試中,它獲得 80.5% 的成績,略高於 5010 億參數的 Reflection Beam(80.1%),也超過了 9750 億參數的 Inkling(63.8%)。
Ricursive 稱,模型研發總共只花了 3200 萬美元,團隊在開發過程中從 1 人擴展到 5 人。他們通過改進模型架構、訓練數據和強化學習方法,提高訓練效率。在 40 億參數規模的對照實驗中,達到相近代碼能力所需的算力降低了約 16 倍。
目前,Ripple 已按 Apache 2.0 許可証開源模型權重。四位量化後預計佔用約 36–40GB,理論上可以在 64GB 及以上內存的 Mac 上本地運行。
信源
動察 Beating 頻道 · 動察 Beating 交流羣。
評論
0/500
登彔 後參與討論
免責聲明:本文內容僅供參考,不構成任何投資建議。
更多快訊