Pi SDK 学习笔记(二):事件流与 SSE
上一篇把最小会话跑起来了:ModelRuntime + createAgentSession 在进程内订阅 text_delta、finally 里 dispose()。这一篇把它搬到 HTTP 上——用一个稳定的公开事件协议把内部事件流喂给浏览器,并处理好 SSE 的建流、心跳、断连和错误帧。 这一篇是把「进程内的 AgentSession」变成「跨信任边界的服务」的第一步,核心是事件映射和安全边界。
上一篇把最小会话跑起来了:ModelRuntime + createAgentSession 在进程内订阅 text_delta、finally 里 dispose()。这一篇把它搬到 HTTP 上——用一个稳定的公开事件协议把内部事件流喂给浏览器,并处理好 SSE 的建流、心跳、断连和错误帧。 这一篇是把「进程内的 AgentSession」变成「跨信任边界的服务」的第一步,核心是事件映射和安全边界。
最近在认真看 Pi SDK,想把它真正嵌进自己的程序里。光读官方示例容易囫囵吞枣,所以我从最小的命令行调用开始自己写,打算一步步把它长成支持多会话、SSE、工具策略和持久化的 Web Agent。这篇记第一段做的事:最小会话与模型运行时。 目标看起来很轻——用 OpenAI Chat Completions 兼容服务跑通一个内存会话,订阅文本增量,dispose() 收尾。但真正动手会发现几个容易糊过去的概念得先摆到台面上:ModelRuntime、AgentSession、SessionManager 的边界;「模型已注册」和「模型已有有效认证」是两回事;以及为什么不该直接用无参数的 createAgentSession()。
代理式检索增强生成(Agentic RAG),这是一种新兴的人工智能范式,其中大型语言模型(LLM)在从外部来源获取信息的同时,自主规划其下一步行动。与静态的先检索后阅读模式不同,Agentic RAG 涉及对 LLM 的迭代调用,中间穿插工具或函数调用以及结构化输出。系统会评估结果,优化查询,必要时调用额外的工具,并持续循环此过程,直到获得满意的解决方案。
DeepSeek R1是DeepSeek公司于2025年1月20日发布的推理模型,被认为媲美OpenAI的o1模型。DeepSeek R1满血版: 模型 总参数量 激活参数量 上下文长度 下载链接 DeepSeek-R1-Zero 671B 37B 128K 🤗 HuggingFace DeepSeek-R1 671B 37B 128K 🤗 HuggingFace DeepSeek R1作为一个超大规模模型,其部署有严格的硬件要求,特别是在GPU内存和计算能力方面。
通过本节的学习,将学会如何使用AutoGen定义智能体并调用函数和工具。 在这个例子中,我们将赋予智能体一个工具的访问权限,该工具是一个函数,包含可用度假目的地的列表及其度假目的地的可用性。 可以认为这是一个旅行社的智能体可以访问旅行数据库的场景。
工具之所以有趣,是因为它们使AI智能体能够拥有更广泛的能力范围。通过添加工具,智能体不再局限于一组有限的动作,而是能够执行多种多样的动作。在本章中,我们将探讨工具使用设计模式,该模式描述了AI智能体如何使用特定工具来实现其目标。 什么是工具使用设计模式? 工具使用设计模式聚焦于赋予大语言模型(LLMs)与外部工具交互的能力,以实现特定目标。工具是可以由智能体执行的代码,用于执行动作。一个工具可以是简单的函数,例如计算器,或者是对第三方服务的API调用,例如查询股票价格或天气预报。在AI智能体的背景下,工具被设计为由智能体根据模型生成的函数调用来执行。
关于构建AI智能系统,有许多不同的思考方式。由于在生成式AI设计中,模糊性是一种特性而非缺陷,因此工程师有时会难以确定从哪里开始。 《AI Agents for Beginners》制定了一套以人为中心的用户体验设计原则,旨在帮助开发者构建以客户为中心的智能体系统,以满足他们的业务需求。这些设计原则并不是一种规定性的架构,而是为定义和构建智能体体验的团队提供的起点。
AutoGen是什么? AutoGen是一个用于构建AI智能体和应用程序的框架。 AutoGen框架由以下几个部分组成: 基于AutoGen 0.4.x版本 Core AgentChat Extensions Studio Magentic-One CLI Core AutoGen Core 是一个用于构建可扩展的多智能体AI系统的事件驱动编程框架。示例场景: 用于业务流程的确定性和动态的智能体工作流程。 多智能体协作研究。 用于多语言应用程序的分布式智能体。 如果你正在构建工作流程或分布式智能体系统,请从这里开始。
AI Agent 框架是专为简化 AI Agent 的创建、部署和管理而设计的软件平台。这些框架为开发者提供了预构建的组件、抽象和工具,从而简化了复杂 AI 系统的开发流程。 通过为 AI Agent 开发中的常见挑战提供标准化的方法,这些框架帮助开发者专注于应用的独特部分。它们提升了构建 AI 系统的可扩展性、可访问性和效率。
本文是微软AI Agents for Beginners课程的学习笔记。随着AI技术的发展,AI Agent正在成为构建智能应用的重要范式。本文将介绍AI Agent的基础概念、类型和应用场景。 AI Agent的定义和类型 AI Agent的定义 AI Agent是通过为LLMs(大语言模型)提供tools(工具)和knowledge(知识)的访问权限,从而扩展其能力以执行操作(action)的系统(system)。