初识Agent
🔮

初识Agent

Categories
Agent
Text
记录有关Agent技术的理论
Date
May 30, 2024
大模型根源的“不太聪明”,是加上Agentic workflow也解决不了的。因为工作流解决的并不是意图理解准确率的问题,而是在流程上的被干预后的可控性。提升大模型本身质量依旧十分重要。

Agents

Agents Overview

《LLM-powered Autonomous Agents》这篇博客中,作者(Lilian Weng)总结了由LLM驱动的Agent系统需要有哪些核心能力:
  • Planning
  • Memory
  • Tool use

Planning

planning(规划)意味着Agent能把大的任务拆解为更小的,可管理的子任务,这对有效的、可控的处理好大的复杂的任务效果很好。同时,Agent能基于过去的动作做自我批评和自我反省,从过去的问题中学习从而改良未来的动作,从而能够改善最终的结果。
  • Subgoal and decomposition 子目标与分解
  • Reflection and refinement: 反思与改良

Memory

  • short memory:个人理解为Prompt,LLM能够根据Prompt来回答问题,类似于人类的短期记忆
  • Long-term memory:赋予Agent检索信息的能力,如使用RAG技术

Tool use

告诉大模型有哪些API可以使用以及如何使用(这些东西在训练时往往无法让大模型学会因为时效性等等原因)

Agentic Workflow

Agentic Workflow设计模式

  • Reflection(反思);让Agent审视和修正自己生成的输出
  • Tool Use(工具):让LLM生成代码、调用API等工具进行操作
  • Planning(规划):让Agent分解复杂任务并按任务执行
  • Multiagent Collaboration(多智能体协同):多个Agent扮演不同角色合作完成任务