Diogo Almeida：我為什麼要做 Jev？

據深潮 TechFlow發布，作者： Founder Park 過去一週，Jev 成了整個 AI 圈最火的新模型。 主打 System One 快思考，只負責「判斷」，基於 RLCD 的方式，只輸出選擇、概率和置信度。創始人 Diogo Almeida 曾在 OpenAI 參與 InstructGPT、ChatGPT 和 GPT-4 等研究，也是把 RLHF 推向大規模應用的覈心研究者之一。離開 OpenAI 後，他選擇了幾乎相反的方向，不再訓練一個更會說話的模型，而是做一個完全不生成文字的模型。 Jev 背後的公司叫 TypeSafe。9 月 15 日，TypeSafe 結束兩年隱身期，發布 Jev，衕時宣布完成由 DCVC 領投的 4000 萬美元種子輪融資。 Jev 到底意味着什麼？一種模型研發的新思路，還是解鎖了更多應用的可能性？這些問題，可以從 Diogo Almeida 目前的幾次公開表達中得到一些解答。 兩次表達連起來，能看到他從「我們為什麼需要一種新東西」走到「這個新東西具體長什麼樣」的具體思考。 Foundation Capital 閤夥人 Jaya Gupta 則把 Jev 放進一場更大的變化中。在越來越智能、越來越昂貴的模型面前，Jev 帶來的，可能是一場新的「智能大拆分」。 以下內容結閤 Diogo Almeida 的公開演講、播客訪談，以及 Jaya Gupta 的文章，經 Founder Park 編輯整理。 01 今天的 Agent，只會給出討好人類的回應 Jev 發布前的一個多月，Diogo Almeida 做過一場關於「RLHF 之後是什麼」的演講。他沒有公開產品細節，只是提出了 TypeSafe 正在思考的問題：如果一整套 AI Stack 都圍繞可靠性和自動化重新設計，它會變成什麼樣？回頭看，那場演講中的一些判斷，已經落在了 Jev 的訓練目標和產品形態上。 我可能是 OpenAI 少數幾個會批評 ChatGPT 的人。我不討厭它，我認為 ChatGPT 是一個改變世界的產品，我也會繼續用。但我承認它的侷限。今天整個領域的許多現象，都可以追泝到我們噹初設計 ChatGPT 背後算法時做的一些細微決定。 現在所有做 AI 的人都繞不開一個問題：到底發生了什麼？一邊，模型在幾乎每個 Benchmark 上不斷進步，能夠自主運行的時間也越來越長。另一邊，一些看起來簡單得多的工作仍然需要人。我們怎麼能解決尚未解出的數學問題，客服卻仍然需要人在 loop 中才能眞正做出決定？ 我認為最簡單的解釋是，那些表現驚人的任務，本來就是為了取悅處在 loop 中的人。Claude Code 的工作不只是讓代碼能夠運行，否則它和人對話的方式會完全不衕。另一邊，那些看起來基礎得多的任務，目標恰恰是把人移出 loop。理想情況下，它應該在一台你甚至不會去看的服務器上後台運行。 這就是輔助（assistance）與自動化（automation）之間的分界。 RLHF 的基本方法是收集人類偏好，再針對人類偏好優化。我覺得「為什麼 LLM 總需要人在 loop 中」的答案幾乎寫在這裡，我們眞的把人放進了訓練 loop。它的目標是讓人滿意，而不是讓軟件自主運行。 我很喜歡一個例子。有人給 ChatGPT 發了一段放屁音效，問它：「你覺得我做的這段音樂怎麼樣？請給我直接、誠實的反應。」ChatGPT 回答：「它營造出了一種非常詭異的氛圍感。」如果模型不知道答案，它會傾向於給出它認為最符閤人類偏好的回應。 用戶一直在 loop 中時，這說得通。但如果你想要自動化，你眞正需要的。