#itup01开云体育(中国)官方网站

玩LLM和agent有一段时刻了，面前合计AI agent落地是一个很疼痛的阶段。学术上是一个富矿，有点当年行家系统火起来的嗅觉了。

agent work吗，他work，许多bert无法作念好的任务，LLM能有可以的成果，在agent框架加合手下，针对特定任务成果会好，不得不承认，不论是LLM照旧agent在成果上皆是实打实的跳动。

那agent满盈work吗，这个谜底显然是否的。若是说畴昔深度学习公共是真金不怕火丹师，那当今作念agent行使是果真木工技巧东说念主了。不同的顾忌库，不同的prompt设施，用不同的LLM 拼起来成果分手皆蛮大的。

那这些局限性是奈何产生的呢，有一个很核心的问题我称之为shallow reasoning，也便是说那怕是岁首的GPT4，他的推理皆是比拟浅层的。GPT5可以管束吗，也许。关联词这也有可能是decoder-only transformer架构的固有劣势。是以面前看来agent的神经核心照旧很原始的阶段。

其实agent四大模块除了tool use皆存在肖似的问题。

顾忌模块，面前的RAG也绝顶原始。只是通过文本相似性来搜索是不是也太肤浅狞恶了？比如说，我的指标是从A地到C地，关联词我必须加油，中间唯有B地有加油站，那么显然我需要完成A-B-C的旅途。那若是我当今是A我想意志C，有中间东说念主B。那我实足可以回顾之前加油的例子，来完成我的指标。之前加油的例子固然和刻下任务是共通的，关联词文本相似性很低。是以个东说念主观念是咱们需要更高等的顾忌模块。

逻辑推理模块当今有许多比如，COT, TOT,GOT，类比相似的例子等等。这些模块一定流程上管束了浅层推理的问题，关联词依然，面前agent的推理深度是不够。是以大部分论文照旧在肤浅的数据集上测试（这里的肤浅数据集相干于之前的NLP设施也很难了）。那随之而来的问题是，关于不同的任务，我要聘任哪种设施去推理呢，我需要花若干算力去推理是合乎的呢？面前即使是最高等的prompt手段，也需要许多手工调遣。是以推理模块也依然是绝顶原始的。

若是不说那么远，若是基于面前agent依然有的才气去落地呢？依然还有许多问题。

从需求上，比喻说当今agent可以帮你订个外卖，栈房，机票。问题是他果真比用APP顺遂吗？我想咱们不要小看了十多年来转移互联网发展中，对APP的优化流程。再比如说像characterAI这么，果真比刷抖音和看短剧格外想吗？

面前合计几个比拟好的行使标的是，医疗多模态大模子+agent，若是医疗影像可以关于新任务可以平直few-shot，并且成果简略商用，会是一个很好的冲突。还有作念游戏亦然很好的标的，agent可以产生许多很意旨的游戏执行，我想这类游戏依然在路上了。还有外交边界，天然这里不是真东说念主外交，是虚构伴侣，虚构偶像，这些需求详情是存在的，关联词居品竖立也需要摸着石头过河。

至于软件竖立，当今用GPT4的才气，实足是扯蛋的。

临了是算力的问题，serving cost果真太高了。当今能作念agent的LLM，唯有GPT4，3.5水平相似的模子作念agent很对付。一个用户单次交互，也许要花好几毛东说念主民币。什么样的居品，兴隆什么样的需求才气卖得起这个价格呢？

是以说面前落地是个疼痛的阶段，要么等算力，推理框架，蒸馏技术发展，让劳动本钱满盈低廉。要么等agent这套框架发展处更好的顾忌，和推理才气

❤（itup01）开云体育(中国)官方网站