〈科技觀察〉
2024 年 AI 領域的開發重點是什麼？是更新一代的大模型嗎？
上次我們分享了著名 AI 科學家吳恩達預測 AI agent（人工智慧分身、人工智慧代理）可能將是今年帶動 AI 大規模進展的主要動力，這次我們再分享吳恩達教授如何觀察 AI 分身迄今為止的一些開發趨勢。
什麼是 AI 分身（AI agent）？為什麼重要？
AI 分身就是指在現有的 LLM 基礎之上所開發、引導 LLM 執行更複雜動作的特定功能 AI ，例如美國哥大研究團隊開發出了名為 GPT Researcher 的 AI 分身，可以自行規劃並完成各種類型的網上研究任務。只要丟一個題目，就可以生成詳細、準確和客觀的研究報告。
目前 ChatGPT 只會單純接收使用者的提問，然後在短時間內給出一個速成的答案。而像是 GPT Researcher 這樣的 AI 分身，不只是單純接收問題，還會自行解讀、推敲使用者的提問可能包含哪些意涵，並花更多時間瀏覽更多相關內容後，再彙整出更高品質的答案。
從這一點來說， AI 分身的表現更接近真人。這樣的 AI 工具顯然將更符合人們的實際需求。而這也是 MixerBox AI 正在努力的方向。
因此我們深入閱讀吳恩達近期撰寫的另一篇談論 AI 分身開發潮即將來臨的文章，並經過翻譯與部分編輯，分享給大家，希望更多人一起認識 AI agent 開發的趨勢！掌握 AI 時代的機會！
吳恩達：AI 分身開發潮正在來臨
【重點摘要】
- 以 LLM 為基礎所開發、引導 LLM 進行逐步推理的 AI 分身（agent），可以讓 AI 模型表現大幅提升，這一開發趨勢近來有快速進展。
- 網路瀏覽型 AI 分身進展最快，因實驗成本低廉。
- 實體操作型 AI 分身（寄送產品、控制機器人）實驗成本高，發展較緩慢。
- 多分身協作系統有潛力產生更佳結果。
【全文翻譯】
親愛的朋友們：
近來，以 LLM 為基礎所開發的 AI 分身（agent），可以做到自主規劃和執行一連串行為，
相關進展非常迅速，每個月都有顯著的改善。
有許多專案嘗試採取像是「撰寫關於 XX 主題的報告」這類任務，自主採取行動，例如瀏覽網路以蒐集資訊，然後彙整成報告。
📌 網路瀏覽型 AI 分身（AI agent）實驗成本低廉、進展快
AI 分身可設計成採取各種不同類型的行動。研究型 AI 分身（像是許多以 AutoGPT、GPTresearcher 或 STORM 架構所建構的專案）會搜尋網路、抓取網頁。
銷售業務型 AI 分身 可能會向使用者派送產品。工業自動化 AI 分身則可以設計用來控制機器人。
到目前為止，在我看來，用來瀏覽網路的 AI 分身的進展最為迅速，因為實驗成本低廉，這是快速技術進步的關鍵。抓取一個網頁的成本不高，即使你的 AI 分身選擇錯誤、閱讀了錯誤的頁面，損失也很有限。
相較之下，寄送產品或移動實體機器人是昂貴的行動，這自然難以快速實驗。同樣地，能夠在沙盒環境中執行所生成的程式碼的 AI 分身，也算是相對低成本的實驗，讓快速實驗和進展成為可能。
雖然今天主要用來蒐集和綜合資訊的研究型 AI 分身仍處於發展初期，我預期它們將快速改善。ChatGPT、Bing Chat 和 Gemini 已經能夠瀏覽網路，但為了要快速回覆使用者，他們能夠瀏覽研究網頁的時間很有限。
我期待下一代的 AI 分身將設計成先花費數分鐘、甚至數小時進行深入研究，然後再提出回應。這類演算法將能夠比只抓取一兩個頁面後即回覆的模型，給出更好的答覆。
即使實驗得以快速進行，評估依舊是發展上的重大阻力。如果你能夠快速地嘗試 10 種不同的演算法變體，你要如何在其中做出揀選呢？使用大模型來評估另一個大模型的輸出在實務上屬普遍做法，但如何設計提示詢問，讓大模型對文本輸出給出高度精確且一致的評估，仍是個挑戰。任何在這方面的突破將加速進展。
📌 多分身系統趨勢令人興奮
多分身系統是一股令人興奮的趨勢。如果我們不只有單一分身，而是一個分身進行研究、蒐集資訊，第二個分身分析這些研究資料，第三個將撰寫最終報告，效果會怎樣呢？
這些分身都可以基於同個大模型，只是使用不同的提示設定，讓它們扮演不同的指定角色。另一種常見的設計模式是，有一個分身撰寫內容，另一個則擔任評論家，提出建設性的反饋，協助第一個分身改善。這個方式可以產生更高品質的輸出。像是微軟的 AutoGen、CrewAI 和 LangGraph 等開源架構，都在為開發人員打造更容易程式化的多分身協作體系，讓它們能夠合作完成任務。
我自己也一直在嘗試各式 AI 分身系統，我認為這種架構人工智慧系統的的方法很有潛力。
我們在不斷擴大 LLM 方面已經取得很多進展，未來這類進展勢必持續。但重大構想有時是由無數小構想所組成的。(例如，你可能是經由許多小小推導步驟，才得出重要的數學定理。)
當今的大模型能夠推理，並擁有許多「小構想」──它們能夠吸收資訊、進行基本推理。思路提示（chain-of-thought prompting）表明，引導大模型拆解問題並逐步思考 ── 也就是將許多基本推理串連起來 ── 能比讓大模型直接作出飛躍式的結論，更有助於正確作答。
分身程式設計模型（agent programming models）是一種有前景的方式，能夠讓這個原理獲得更大發揮，引導大模型形成許多「小構想」，最終集結成更大且更有用的構想。
保持學習！
Andrew
原文出處： https://www.deeplearning.ai/the-batch/issue-241/
體驗 MixerBox AI： mixerbox.ai
想看到更多 MixerBox AI 最新消息： MixerBox 粉絲專頁 先追蹤起來！
👉👉〈科技觀察〉系列文章：
吳恩達：AI agent 自動化工作流程今年有望帶動大規模 AI 進展，重要性可能超過發展大模型
