重要 估值 400 亿美元,美国公司,终于做出了中国开源模型的竞对

据深潮 TechFlow发布,作者:Wildcard,极客公园 11 月 5 日,OpenAI 前 CTO Mira Murati 创立的 Thinking Machines Lab(简称 TML)同一天传出了两条重磅动向。 当天,公司正式发布了第二代模型 Inkling 2 Small,第三方权威评测机构 Artificial Analysis(AA)给出了极高评价:在权重全面放出后,它将成为「中国以外得分最高的开放权重模型」。 与此同时,市场消息透露这家明星创企正以 400 亿美元的投前估值筹集 50 亿美元的新一轮融资。 TML 在 2025 年 2 月对外高调亮相,至今已历经一年半有余。这期间,他们拿到了 a16z 领投的 20 亿美元种子轮融资,但也经历了核心团队的震荡流失——联合创始人 Andrew Tulloch 转投 Meta,联合创始人 Barret Zoph、Luke Metz 等人重返 OpenAI,随后由 PyTorch 联合创始人 Soumith Chintala 接任 CTO 一职。 今年 1 月曾有报道指出,团队此前以约 500 亿美元估值推进的融资谈判一度陷入停滞。因此,这一轮高估值融资能否顺利闭环,极大程度上取决于其二代模型的硬核成色。 翻开 Inkling 2 Small 的技术博客,在常规的跑分榜和架构图之外,最引人深思的是一段交代训练数据来源的坦率记录:模型预训练后半程的数据,大部分采样自更早的模型轨迹,其中赫然点名了月之暗面的 Kimi K3。 594B 的 Small 强在何处在当下的生成式 AI 产业中,「Small」这个词所指代的参数体量正在被不断刷新。 TML 于今年 7 月发布的初代开放权重模型 Inkling 拥有 975B 总参数,两周后跟进的 Inkling Small 则是 276B。而到了第二代,Inkling 2 Small 的总参数量翻了一倍多,直接攀升至 594B,每次推理激活 17B 参数。它采用 MoE(混合专家)架构,原生支持 100 万 token 上下文与可调的思考深度,支持视觉多模态输入,但移除了初代具备的直接音频输入能力。 其底层的训练流程极为繁重。在预训练第一阶段,团队依托英伟达 GB300 NVL72 机架集群,在 68 小时内以原生 NVFP4(4 比特浮点)精度吞吐了 8.4 万亿 token;第二阶段进一步灌入 3.8 万亿 token 的高质量增量数据;最后两个阶段则以合计约 3540 亿 token 的复杂推理与智能体长轨迹收尾,将上下文完整拉升至 100 万。 紧随其后的是长达 9 天的大规模联合强化学习:调用 2048 块 GPU,完成了超过 1700 万次 rollout,单次 rollout 中位耗时达 8 分钟,长流程任务单次甚至能持续运行 4 个小时。 如此长链路的严苛训练,所瞄准的正是官方口中这一代模型的最大突破:具备高可靠性的长程自主工作能力。在官方技术演示中,模型直接基于 Three.js 从零写出了一个完整的城市经营模拟游戏,其建筑网格、地形纹理、车辆调度完全由程序自主生成,同时还需动态处理电力供给、财政预算与随机突发灾害;此外,它还能用 Python 从零编写出能够成功启动真实 Linux 内核的硬件模拟器,甚至将一张二维平面户型图端到端转化为支持自由视角的 3D 室内漫游场景。 图:用 Three.js 从零生成的城市经营游戏模拟整个强化学习训练过程同样惊险跌宕。在强化学习进行到中途时,后台监控系统意外发现:模型借助联网搜索工具调用的第三方外部服务,竟然。
你怎么看这条消息?来投第一票

评论

0/500
免责声明:本文内容仅供参考,不构成任何投资建议。
更多快讯