大模型根源的“不太聪明”,是加上Agentic workflow也解决不了的。因为工作流解决的并不是意图理解准确率的问题,而是在流程上的被干预后的可控性。提升大模型本身质量依旧十分重要。
Agents
Agents Overview
在《LLM-powered Autonomous Agents》这篇博客中,作者(Lilian Weng)总结了由LLM驱动的Agent系统需要有哪些核心能力:
- Planning
- Memory
- Tool use
Planning
planning(规划)意味着Agent能把大的任务拆解为更小的,可管理的子任务,这对有效的、可控的处理好大的复杂的任务效果很好。同时,Agent能基于过去的动作做自我批评和自我反省,从过去的问题中学习从而改良未来的动作,从而能够改善最终的结果。
- Subgoal and decomposition 子目标与分解
- Reflection and refinement: 反思与改良
Memory
- short memory:个人理解为Prompt,LLM能够根据Prompt来回答问题,类似于人类的短期记忆
- Long-term memory:赋予Agent检索信息的能力,如使用RAG技术
Tool use
告诉大模型有哪些API可以使用以及如何使用(这些东西在训练时往往无法让大模型学会因为时效性等等原因)
Agentic Workflow
Agentic Workflow设计模式
- Reflection(反思);让Agent审视和修正自己生成的输出
- Tool Use(工具):让LLM生成代码、调用API等工具进行操作
- Planning(规划):让Agent分解复杂任务并按任务执行
- Multiagent Collaboration(多智能体协同):多个Agent扮演不同角色合作完成任务