Manus沒發(fā)布就遙遙*了，我提出我的疑問“智能體開發(fā)主要是要調(diào)提示詞和去除幻覺”難道他們未卜先知么？

行業(yè)新聞|Industry News|

2025-03-07 19:00:28 989

一、AI Agent （AI智能體）是什么？

1、AI Agent可以接收外部信息，基于大模型的推理進行理解判斷，基于判斷做出決策，調(diào)用外部接口執(zhí)行動作的一個自動執(zhí)行的工作流應用。

2、AI Agent可以與外部接受信息和交互。

如果把大模型比作大腦，那 AI Agent 可以理解為小腦 + 手腳。

二、AI智能體框架是什么

1、AI Agent 開發(fā)框架是為構(gòu)建智能代理（AI Agent）提供的技術(shù)基礎設施，它通過預置模塊、工具鏈和標準化流程，幫助開發(fā)者快速實現(xiàn)感知、推理、決策、執(zhí)行等核心能力的整合。

2、組成組件包括：

Agent=LLM（選擇大腦） + 規(guī)劃技能（拆解工作，規(guī)劃工作流） + 記憶（外部知識庫，本地上下文） + 工具使用（對接外部應用）的基礎架構(gòu)。

三、通用大模型基本不可用的原因（知識局限性和幻覺）

1）知識的局限性：（缺企業(yè)私有知識庫）
模型自身的知識完全源于它的訓練數(shù)據(jù)，而現(xiàn)有的大模型的訓練集基本都是構(gòu)建于網(wǎng)絡公開的數(shù)據(jù)，對于一些實時性的、非公開的或離線的數(shù)據(jù)是無法獲取到的，這部分知識也就無從具備。
2）幻覺問題：（沒有私有知識庫，幻覺無法抑制）
所有的AI模型的底層原理都是基于數(shù)學概率，其模型輸出實質(zhì)上是一系列數(shù)值運算，大模型也不例外，所以它有時候會一本正經(jīng)地胡說八道，尤其是在大模型自身不具備某一方面的知識或不擅長的場景。而這種幻覺問題的區(qū)分是比較困難的，因為它要求使用者自身具備相應領域的知識。

四、大模型開發(fā)的主要工作之二

就是“提示詞工程和防幻覺”，開發(fā)AI智能體主要是要調(diào)提示詞和去除幻覺，引入RAG私有知識庫也是防幻覺，商業(yè)AI智能體有幻覺就不可用。

五、Manus不科學點

Manus做出通用AI Agent自動化開發(fā)，完全沒有了幻覺得概念。搞成沒幻覺了，那不科學。

類似Hello world可以沒幻覺，復雜的應用肯定有幻覺。

免責聲明：本文來源于“數(shù)字化轉(zhuǎn)型分享”公眾號，本文僅代表作者個人觀點，不代表薩科微及行業(yè)觀點，只為轉(zhuǎn)載與分享，支持保護知識產(chǎn)權(quán)，轉(zhuǎn)載請注明原出處及作者，如有侵權(quán)請聯(lián)系我們刪除。

企業(yè)咨詢和陪跑請掃碼聯(lián)系

上一篇：: 薩科微肖秋喜：幸福就這么簡單

下一篇：: 中國臺灣省臺積電董事長魏哲家：今年要蓋11個生產(chǎn)線（薩科微3月7日每日芯聞）

Manus沒發(fā)布就遙遙*了，我提出我的疑問“智能體開發(fā)主要是要調(diào)提示詞和去除幻覺”難道他們未卜先知么？

客服QQ2635709730

Manus沒發(fā)布就遙遙*了，我提出我的疑問“智能體開發(fā)主要是要調(diào)提示詞和去除幻覺”難道他們未卜先知么？

客服QQ
2635709730