近年來，ChatGPT、Claude 和 Gemini 等各種聊天機器人已經佔據了人工智慧領域的中心舞台。然而，這些工具並不是大多數企業的最終目標。許多企業渴望開發通用人工智慧 (AGI)，即能夠達到與人類智慧相當或可能超過人類智慧的推理水平的技術。儘管如此，通往 AGI 的旅程需要幾個發展里程碑。
雖然聊天機器人展現出令人印象深刻的功能，但它們的用途卻有些有限。如果沒有自主性的元素，聊天機器人只能在一定程度上提高效率和生產力。這種限制導致他們無法產生預期收入。從本質上講，聊天機器人代表了人工智慧進步的基礎階段。
這種限制就是為什麼人工智慧公司越來越關注人工智慧代理作為下一波人工智慧創新浪潮。與傳統的聊天機器人或商業網站上常見的自動化支援機器人不同，人工智慧代理的設計超越了簡單的指令遵循，並且可以做出獨立的選擇。
與現有的客戶支援機器人進行互動通常會令人沮喪，因為它們通常無法快速或有效地解決問題——與人類支援代表不同。然而，自主人工智慧代理的出現將改變這種體驗。
定義人工智慧代理
即使在專家中，人工智慧代理的定義仍然有些模糊，但他們的願景不斷發展。
儘管如此，某些特徵還是很容易理解的。人工智慧代理被設計為能夠在現實場景中自主做出複雜決策的模型。它們可能偶爾需要人工監督，但它們可以執行的任務範圍將遠遠超過目前的聊天機器人。
雖然像 ChatGPT 這樣的聊天機器人可以提高人類的生產力，但人工智慧代理有可能取代人類的角色，至少對於更簡單的任務來說是如此。
與現有的生成式人工智慧機器人不同，現有的生成式人工智慧機器人純粹透過預測序列中的下一個單字來發揮作用，人工智慧代理將具備批判性思考和推理的能力。 OpenAI 的模型 o1 已經觀察到了這種推理能力。
然而，推理只是人工智慧代理旨在實現的目標之一。
人工智慧代理的一個基本特徵是它們能夠在沒有持續指導的情況下追求人類設定的目標，特別是在複雜且不斷變化的環境中。與目前依賴人類逐步指導的聊天機器人不同，人工智慧代理只需要使用者定義最終目標。
主動性是另一個重要特徵；人工智慧代理不應像典型的聊天機器人那樣等待提示。
此外，人工智慧代理的一個關鍵方面是它們從回饋中學習的能力。這些代理可以不斷發展並提高其性能，而無需人工幹預；他們從自己的經驗中學習。
人工智慧代理如何運作想像一下，人工智慧代理正在處理客戶問題。它不是僅僅遵循嚴格的腳本，而是可以檢索客戶的參考 ID 等信息，訪問相關的內部文檔，並提出進一步的問題，以便在提供解決方案之前更好地掌握情況。如有必要，它可以將問題上報給人類主管批准。最終，如果解決方案被證明是不可能的，它可以將客戶重新導向到人工代表。
潛在用途
客戶支援只是人工智慧代理有望蓬勃發展的領域之一，但它們可能會出現在許多其他領域，例如軟體開發。
預測表明，在未來三年內，大量公司將使用人工智慧代理來執行編碼任務，從而使人類開發人員主要承擔審核角色。
許多組織正在開發代理系統來增強內部工作流程，從概念驗證階段轉向試點階段。雖然使用代理自動執行任務並不是一個新概念，但人工智慧的整合將使這些代理能夠以更大的靈活性處理更廣泛的任務。
許多企業已經在為各種內部功能部署人工智慧代理，其中一些企業（例如 Salesforce 的 Agentforce）向企業提供了初步版本。在短短幾年內，人工智慧代理就可以完全取代傳統呼叫中心的工作人員。
此外，許多企業可能會採用多代理系統，其中不同的代理將執行專門的功能，同時保持通訊和協作。
人工智慧代理的範圍超出了企業範圍；個人助理應用程式也正在透過人工智慧功能進行改進。理想的人工智慧代理的功能與人類助理類似，可以管理採購、組織旅行或安排會議，並能夠與各種工具（包括網路搜尋和其他人工智慧系統）進行互動。
此外，人工智慧代理應該是多模式的，正如Google的 Project Astra 在最近的 I/O 會議上所展示的那樣，能夠處理音訊、圖像和視訊輸入。
值得注意的是，不會存在單一類型的人工智慧代理。不同的環境需要不同的技能。
人工智慧代理當前面臨的挑戰
儘管取得了顯著的進步，但實現完全自主的代理仍面臨許多挑戰。
為了真正具有幫助性和自主性，人工智慧代理必須大幅降低錯誤率。目前，人工智慧系統很容易出現錯誤，需要將錯誤率降低到 1% 以下才能促進廣泛採用。實現減少到 10% 以下可能相對簡單，但進一步細化將更具挑戰性。
此外，在前面討論的客戶支援場景中，一個關鍵障礙是確保人工智慧代理能夠確定何時將問題升級給人類，而不是固執地嘗試獨立解決問題，這可能會導致成本增加。
語境理解帶來了另一個障礙。當設想使用人工智慧聊天機器人來完成編碼任務時，它們當前的限制就變得顯而易見；由於上下文限制，他們很難產生長格式的程式碼。
還必須解決安全和存取控制問題，以充分發揮人工智慧代理的潛力。更大的自主權會帶來更高的風險，因此需要採取保護措施以確保人工智慧代理僅執行授權的操作並存取允許的資訊。
此外，諸如提示注入之類的問題存在必須加以管理的安全漏洞。
訓練資料和運算能力所需的資源也提出了挑戰。然而，根據 Sam Altman 的一些陳述，對於訓練資料問題可能已經有潛在的解決方案。
人工智慧公司正在努力實現代理式的未來，其中許多挑戰預計將在不久的將來得到解決。例如，Google 目前正在推動 2M 上下文窗口，並朝著無限上下文方向取得進展。
因此，雖然人工智慧目前可能無法達到我們希望的水平，但未來可能會比預期更早到來。企業需要為將人工智慧代理整合到其營運中做好準備。如果您認為人工智慧需要數年時間才能勝任您監督的職責，請重新考慮。人工智慧代理即將出現，開發新技能以適應這一新興現實至關重要。許多公司最早將於明年啟動人工智慧代理集成，具有自主決策、主動性、適應性以及在複雜環境中運作和追求既定目標的能力。
發佈留言