MCP笔记01: 快速创建一个MCP Server
📅 2025-03-30
目前许多大型语言模型（LLMs）还不具备获取天气预报和灾害天气预警的能力。让我们使用MCP来解决这个问题！
在本文中，我们将构建一个MCP Server，暴露两个工具(tools)：get-alerts（获取预警）和get-forecast（获取天气预报）。
Blog
开始使用uv作为python的包管理器
📅 2025-03-26
最近在开发MCP Server时，注意到MCP官方Python教程推荐使用uv作为包管理器。uv是一个用Rust编写的高性能Python包和项目管理工具，它不仅能替代pip、pip-tools、pipx、poetry、pyenv、twine和virtualenv等多个工具，还能提供10-100倍的性能提升。作为一个poetry的长期用户，决定趁着这次学习MCP的机会，将个人Python开发环境从poetry迁移到uv。
...LangChain笔记01:Prompt templates,Chat Models,Messages,Output parsers,Structured output
📅 2025-03-19
概念 #
Prompt template、Chat Model、Messages、Output parser、Structured output是LangChain框架的重要组件和概念。通过有效地组合这些组件，可以构建出简单的LLM应用。
- Prompt template：用于提取模型"提示"中静态部分的组件（通常是一系列消息）。它们对于序列化、版本控制和重用这些静态部分非常有用。
- Chat Model：通过Chat API暴露的大语言模型，处理一系列消息作为输入并输出一条消息。
- Messages：聊天模型中的通信单位，用于表示模型的输入和输出。
- Output parser：负责将模型的输出转换为更适合下游任务的格式。在工具调用(Tool calling)和结构化输出(Structured output)普及之前，输出解析器主要用于此目的。
- Structured output：一种使ChatModel以结构化格式（如符合给定模式的JSON）响应的技术。
可以以通过两种方式组合这些组件：
...OpenTelemetry Collector升级日志:0.114.0->0.121.0
📅 2025-03-12
近期我们对两个环境中的OpenTelemetry Collector进行了版本升级，从v0.114.0升级到了v0.121.0。这次升级涉及一些配置变化，本文将记录一些升级过程中的关键点和经验总结。
环境信息 #
这两套环境采用了相同的部署架构:首先通过Helm安装opentelemetry-operator，然后利用OpenTelemetry Collector的CRD(自定义资源定义)创建OpenTelemetryCollector资源。opentelemetry-operator会根据这些资源定义，在Kubernetes集群的每个节点上以DaemonSet的形式部署OpenTelemetry Collector Pod，实现分布式的遥测数据采集。
使用modelscope下载模型
📅 2025-03-08
安装ModelScope SDK #
安装环境信息如下:
- 操作系统: Ubuntu 24.04
- 安装用户: 系统普通用户(非root, 非特权用户)
- Python版本: 3.11 (注Ubuntu 24.04内置安装了Python 3.12, Python 3.11需额外安装)
安装过程如下:
...告别Docker Desktop：用Colima在macOS上优雅运行Docker容器
📅 2025-03-07
在过去的这些年中，我一直在探索和优化自己的开发环境配置。从最初的VSCode配合Remote Ubuntu Server的设置，到现在升级使用更智能的Cursor，我的开发环境经历了一个渐进式的演变。目前，我主要采用以下三种配置方案：
...AI Agents for Beginners笔记: 5.Agentic RAG
📅 2025-02-24
代理式检索增强生成（Agentic RAG），这是一种新兴的人工智能范式，其中大型语言模型（LLM）在从外部来源获取信息的同时，自主规划其下一步行动。与静态的先检索后阅读模式不同，Agentic RAG 涉及对 LLM 的迭代调用，中间穿插工具或函数调用以及结构化输出。系统会评估结果，优化查询，必要时调用额外的工具，并持续循环此过程，直到获得满意的解决方案。
...DeepSeek-R1 671B满血版部署硬件配置
📅 2025-02-20
DeepSeek R1是DeepSeek公司于2025年1月20日发布的推理模型，被认为媲美OpenAI的o1模型。DeepSeek R1满血版：
| 模型 | 总参数量 | 激活参数量 | 上下文长度 | 下载链接 |
|---|---|---|---|---|
| DeepSeek-R1-Zero | 671B | 37B | 128K | 🤗 HuggingFace |
| DeepSeek-R1 | 671B | 37B | 128K | 🤗 HuggingFace |
DeepSeek R1作为一个超大规模模型，其部署有严格的硬件要求，特别是在GPU内存和计算能力方面。
...AutoGen笔记：02.工具使用
📅 2025-02-20
通过本节的学习，将学会如何使用AutoGen定义智能体并调用函数和工具。
在这个例子中，我们将赋予智能体一个工具的访问权限，该工具是一个函数，包含可用度假目的地的列表及其度假目的地的可用性。 可以认为这是一个旅行社的智能体可以访问旅行数据库的场景。
...AI Agents for Beginners笔记: 4.工具使用设计模式
📅 2025-02-19
工具之所以有趣，是因为它们使AI智能体能够拥有更广泛的能力范围。通过添加工具，智能体不再局限于一组有限的动作，而是能够执行多种多样的动作。在本章中，我们将探讨工具使用设计模式，该模式描述了AI智能体如何使用特定工具来实现其目标。
什么是工具使用设计模式？ #
工具使用设计模式聚焦于赋予大语言模型（LLMs）与外部工具交互的能力，以实现特定目标。工具是可以由智能体执行的代码，用于执行动作。一个工具可以是简单的函数，例如计算器，或者是对第三方服务的API调用，例如查询股票价格或天气预报。在AI智能体的背景下，工具被设计为由智能体根据模型生成的函数调用来执行。