Claude不到4週優化36款生物模型,平均提速約4倍

BiRun 訊,Anthropic 讓 Claude 給 36 款開源生物模型做了一輪性能優化。不到 4 週,這些模型平均跑快約 4 倍,覆蓋蛋白質結構預測、蛋白質設計和基因組分析等任務。相關優化代碼已經全部開源。

Claude 做的也不只是改改 Python 代碼,還自己寫了 FlashPairformer 等 GPU kernel,直接從底層提高 GPU 計算效率。官方測試中,一些原本非常耗時的計算最多快了 3.2 倍。碰到不衕模型,Claude 還會逐個找瓶頸,把重復計算刪掉,或者把經常用到的數據提前緩存起來。

整個過程由兩名 Anthropic 生物建模研究員監督,但兩人此前都沒有推理優化或 kernel 工程經驗。卽使要求優化前後結果完全一致,這些模型平均也能提速約 1.6 倍;如果允許模型結果出現正常範圍內的細微差異,平均提速能到約 4 倍。

Anthropic 之前做一次蛋白質設計實驗,每個目標最多要用約 2500 個 H100 GPU 小時。經過優化後,一台 H200 跑 24 小時就能做到接近的效果,GPU 加 Claude 的成本閤計約 150 美元。原來要燒上韆個 GPU 小時的實驗,現在一天左右就能跑完。

信源

動察 Beating 頻道 · 動察 Beating 交流羣。
你怎麼看這條消息?來投第一票

評論

0/500
免責聲明:本文內容僅供參考,不構成任何投資建議。
更多快訊