在人工智能快速发展的今天,我们见证了一个激动人心的转变:从简单的LLM问答模式到真正具备自主性的AI系统。这就是Agentic,它正在重新定义我们与AI交互的方式。
Agentic的提出将LLM从简单的问答工具转变为有能力、有目的的代理(Agent),这些代理能够理解复杂的指令,执行多步骤的任务,并与人类用户进行富有成效的交互。Agentic理念的核心是创建具备自主性和适应性的系统,这不仅能够提升任务处理效率,也将改变人类与AI交互的方式。
1. 不只是语言大模型
想象一下,如果把传统的LLM比作一个只会按部就班回答问题的学生,那么Agentic系统就像一个具有独立思考能力的研究者。它不仅有基础的语言理解能力,还配备了完整的"工具包":
- 精心设计的"性格设定"(提示词系统)
- 像人类一样的记忆系统(短期和长期记忆)
- 专业领域的知识储备
- 使用各种工具的能力
2. 像人类一样思考和工作
最令人着迷的是,Agentic系统的工作方式更接近人类。它不会简单地给出一个答案就完事,而是会像专业人士一样,经过深思熟虑的过程。
举个例子,当要完成一篇文章时,它会像专业作家一样:
- 先规划文章大纲
- 查找必要的参考资料
- 写出初稿
- 仔细审查并修改
3. 四大超能力
Agentic系统的与众不同之处在于它掌握了四种关键能力:
- 自我反思🤔 :不断评估和改进输出质量
- 工具达人🛠️ :灵活运用各种外部工具
- 规划高手📋:化繁为简,分步执行
- 团队协作🤝 :能和其他AI Aggent共同完成任务
这不仅仅是技术的进步,更是AI向着真正智能迈出的重要一步。
市场上的关于agentic的声音越来越大,技术再次升级,OpenCSG全系列产品加入Agentic理念。
我们的三大核心产品——CSGHub、DataFlow和StarShip——得到了全面的强化,并且更紧密地融合。我们利用Agentic理念,将智能代理技术更深入地集成到产品中,使得各产品之间的协同效应更加明显,形成一个完整的AI生态,为用户提供一个统一且无缝的工作平台。
在OpenCSG 产品架构体系中,CSGHub和DataFlow作为基础设施,提供了强大的AI能力和高质量数据;StarShip作为应用引擎,将AI能力和数据结合起来,实现各种AI应用;Wukong作为生成式AI的代表,为用户提供各种生成式AI服务。我们的产品体系就像一座的智能工厂,仓库、物流、生产线和创新部门紧密配合,为用户高效打造Agentic App。
工厂 “仓库” CSGHub
CSGHub 是整个AI体系的基石,为上层应用提供了强大的AI能力支持。具备以下能力:
- 资源Agent:管理系统资源,如计算资源、存储资源等。
- 训练Agent:负责模型的训练和优化。
- 服务Agent:将训练好的模型部署为服务,提供在线推理能力。
- 提示词Agent:提供提示工程能力,提升模型的性能。
模型库、数据集、代码、提示词集:提供了丰富的资源,支持模型的开发和训练。
工厂 “物流部门” DataFlow
DataFlow负责数据的全生命周期管理,为AI应用提供高质量的数据。具备以下能力:
- 数据集成:从各种数据源采集和集成数据。
- 数据清洗:对数据进行清洗和预处理。
- 数据建模:建立数据模型,挖掘数据价值。
- 数据管道:实现数据的流转和处理。
- 数据评估:对数据集进行评估。
工厂 “创新部门” Wukong
Wukong 作为生成式AI的代表,为用户提供各种生成式AI服务,如文本生成、图像生成等。具备以下能力:
- 大模型能力:提供了强大的自然语言处理能力。
- 多模态能力:支持多种模态数据处理。
- 强化学习:通过强化学习机制,不断提升模型性能。
工厂 “生产线” StarShip
工厂“生产线”StarShip :作为Agentic引擎,提供打造Agentic应用的框架和工具。将CSGHub提供的AI能力和DataFlow提供的优质数据结合起来,实现各种AI应用。StarShip则帮助用户高效、灵活地构建和管理复杂的多Agent系统,详见下一节介绍。
如何高效、灵活地构建和管理复杂的多Agent系统,是推动任务自动化、分布式协作和智能应用的关键。为了解决这一挑战,我们推出了OpenCSG的Agentic架构——一个功能强大、模块化、灵活且易扩展的智能Agent框架Agentic架构以高效的通信、灵活的扩展能力和安全性为核心,赋能开发者快速构建下一代智能应用。
1. 架构全景:智能协作的基石
Agentic架构分为运行时层、核心层和Agent层,层层紧密配合。运行时层确保分布式通信的高效与可靠,核心层提供Agent的基础构件与动态管理功能,Agent层则内置多种功能型和编排型Agent,并支持快速定制。这种分层设计让Agentic架构灵活高效,为智能协作和任务自动化提供坚实支持。
运行时层(Runtimes):负责底层通信,是实现Agent分布式消息传递和高可靠通信的基石。
- 内置支持多种通信模式,包括消息队列(Message Queue)、HTTP协议和进程内通信(In-Process)。
- 开放接口允许用户根据业务场景自定义运行时环境,灵活应对多样需求。
核心层(Core):定义了Agent框架的基础构件,是整个系统的核心驱动力。
- 包括Agent、工具(Tools)、记忆模块(Memory)的基础定义。
- 提供消息传递和类型定义,并通过Factory管理Agent生命周期,通过Discovery实现动态发现功能。
Agent层(Agents):专注于实际应用,内置多种Agent,同时提供Builder工具支持快速构建个性化Agent。
- Agent Builder:一款Meta-Agent工具,帮助用户快速设计和创建个性化Agent。
- 基础型Agent:如ChatAgent、FunctionCallAgent和ReAct,专注于单一任务处理。
- 编排型Agent:包括Sequential顺序流程和Handoffs动态委派,以完成复杂任务自动化。
2. 框架特性:让智能协作更加简单高效
Agentic框架以灵活、高效、可扩展为核心,支持异步通信、分布式协作、动态发现与安全隔离。模块化设计和Agent Builder工具让开发者轻松定制Agent,并通过CSGHub集成高效管理大模型资源,应对多样化任务场景。
灵活通信,轻松协作
- Agent之间通过消息交流,无论是事件触发还是请求/响应,都能快速响应任务需求。
分布式部署,无限扩展
- 支持多地Agent运行,轻松实现分布式协作,具备负载均衡和容错能力,系统扩展无压力。
全生命周期管理
- 自动化管理Agent的创建、启动、停止和销毁,配备运行链路追踪,让系统运行一目了然。
动态发现,智能协作
- Agent可以在任何地方运行,动态注册并通过发现机制实现实时协作,操作灵活便捷。
模块化设计,随需扩展
- 通过插件轻松定制Agents、工具、记忆模块和运行时环境,满足多样化需求。
灵活任务编排
- 无论是固定流程的静态编排,还是复杂任务的动态调度,框架都能完美支持。
安全隔离,全程护航
- 多会话、多用户/租户的隔离,以及代码沙箱的动态调度,框架都能完美支持。
快速构建工具
- 提供Agent构建器,帮助用户快速创建个性化Agent,加速开发流程。
无缝对接CSGHub
- 深度集成CSGHub平台,支持大模型资源的灵活切换,打造完整的智能生态。
3. Agentic架构下的产品体系更新
随着OpenCSG生态的不断进化,我们将CSGHub和DataFlow转变为由多个子Agent组成的综合体。这一改变意味着,除了处理简单的任务外,系统还可以通过子Agent之间的相互协作来应对更复杂的需求。这种架构的调整,提升了系统的可扩展性和灵活性。
无缝集成与高效执行
- 基于CSGHub和DataFlow的能力,我们将为Agent提供丰富的工具和API,确保它们可以高效完成任务,也能与其他系统无缝集成。
定制服务与智能编排
- 通过Orchestrator,我们既能创建新的Agent,也能对现有的Agent进行智能编排,定制用户自己的工作流。
降低用户门槛的Agent Builder
- 考虑到用户可能在使用Agent Builder时会遇到的复杂性挑战,我们努力通过提升CSGHub和DataFlow的功能简化操作流程,使得更多用户能够轻松上手。
以下是我们使用Agentic架构实现的三个示例场景,为大家展示其在模型部署、推理及智能体构建中的实际应用。
场景一:Agentic 模型部署
- 使用Coagent框架创建CSGHub-Model Agent。
- 在CodeSouler中,通过该Agent搜索模型并完成部署操作。
- 部署完成后,模型实例运行于CSGHub,并返回用于推理的Endpoint。
场景二:Agentic 模型推理
- 基于Coagent框架构建Code-Completion Agent。
- 在CodeSouler中切换到已部署于CSGHub的DeepSeek代码补全模型。
- 使用Code-Completion Agent调用DeepSeek模型,提供智能代码补全服务。
场景三:Agentic 智能体构建
- 使用Coagent框架创建Agent-Builder Agent。
- 在CodeSouler中通过该Agent快速生成DataSet-Enhancement Agent。
- DataSet-Enhancement Agent可高效完成以下任务:
- 从GitHub下载初始Prompt数据集,将Prompt上传至CSGHub。
- 请求DataFlow对Prompt进行清洗(如去重、敏感词过滤),并将处理后的版本作为新分支保存到CSGHub。
- 下载清洗后的Prompt分支供进一步使用。
场景四:GUI Agent
除了框架层面的Agent,OpenCSG Agentic还支持通过图形界面交互的GUIAgent,为用户提供更直观、便捷的操作体验。以下是一个GUIAgent的示例场景,展示如何做一个智能化的模型与数据集下载。GUI Agent 的内容将在后面的文章中详细介绍,敬请期待⭐️。
模型天天变化,不变的是数据沉淀。
- 开源:OpenCSG秉承初心,我们将继续以开源为理念,和用户一起共建、共享开源。
- 社区版和商业版:OpenCSG秉承初心,我们将继续以开源为理念,和用户一起共建、共享开源。
- Agentic System:Dataflow、CSGHub、StarShip等产品打造企业的Agentic System,解决用户、企业核心的痛点问题,如数据安全、技术沉淀、研发效率提升,帮助企业打造技术护城河,和数据沉淀。