开始使用uv作为python的包管理器
最近在开发MCP Server时,注意到MCP官方Python教程推荐使用uv作为包管理器。uv是一个用Rust编写的高性能Python包和项目管理工具,它不仅能替代pip、pip-tools、pipx、poetry、pyenv、twine和virtualenv等多个工具,还能提供10-100倍的性能提升。作为一个poetry的长期用户,决定趁着这次学习MCP的机会,将个人Python开发环境从poetry迁移到uv。
最近在开发MCP Server时,注意到MCP官方Python教程推荐使用uv作为包管理器。uv是一个用Rust编写的高性能Python包和项目管理工具,它不仅能替代pip、pip-tools、pipx、poetry、pyenv、twine和virtualenv等多个工具,还能提供10-100倍的性能提升。作为一个poetry的长期用户,决定趁着这次学习MCP的机会,将个人Python开发环境从poetry迁移到uv。
在使用LangChain的ChatOpenAI访问LLM的API时,有时会遇到需要通过HTTP代理访问LLM API的场景,或者由于本地网络环境、公司内网等原因,需要关闭SSL证书验证。本文将介绍如何通过httpx客户端在LangChain中实现这两个需求。
在使用LangChain进行结构化数据抽取时,常见的两种方式分别是OutputParser和Structured Output。二者在调用OpenAI API时的请求报文和底层机制存在明显差异。本文通过具体代码示例,详细对比这两种方式的实现细节、API请求体、响应内容,并分析各自的优缺点和适用场景,可根据实际需求做出选择。
概念 Prompt template、Chat Model、Messages、Output parser、Structured output是LangChain框架的重要组件和概念。通过有效地组合这些组件,可以构建出简单的LLM应用。 Prompt template:用于提取模型"提示"中静态部分的组件(通常是一系列消息)。它们对于序列化、版本控制和重用这些静态部分非常有用。 Chat Model:通过Chat API暴露的大语言模型,处理一系列消息作为输入并输出一条消息。 Messages:聊天模型中的通信单位,用于表示模型的输入和输出。 Output parser:负责将模型的输出转换为更适合下游任务的格式。在工具调用(Tool calling)和结构化输出(Structured output)普及之前,输出解析器主要用于此目的。 Structured output:一种使ChatModel以结构化格式(如符合给定模式的JSON)响应的技术。 可以以通过两种方式组合这些组件:
近期我们对两个环境中的OpenTelemetry Collector进行了版本升级,从v0.114.0升级到了v0.121.0。这次升级涉及一些配置变化,本文将记录一些升级过程中的关键点和经验总结。 环境信息 这两套环境采用了相同的部署架构:首先通过Helm安装opentelemetry-operator,然后利用OpenTelemetry Collector的CRD(自定义资源定义)创建OpenTelemetryCollector资源。opentelemetry-operator会根据这些资源定义,在Kubernetes集群的每个节点上以DaemonSet的形式部署OpenTelemetry Collector Pod,实现分布式的遥测数据采集。
see also “使用huggingface-cli下载模型” 安装ModelScope SDK 安装环境信息如下: 操作系统: Ubuntu 24.04 安装用户: 系统普通用户(非root, 非特权用户) Python版本: 3.11 (注Ubuntu 24.04内置安装了Python 3.12, Python 3.11需额外安装) 安装过程如下:
COLIMA Container on Lima Lima VM 在过去的这些年中,我一直在探索和优化自己的开发环境配置。从最初的VSCode配合Remote Ubuntu Server的设置,到现在升级使用更智能的Cursor,我的开发环境经历了一个渐进式的演变。目前,我主要采用以下三种配置方案:
代理式检索增强生成(Agentic RAG),这是一种新兴的人工智能范式,其中大型语言模型(LLM)在从外部来源获取信息的同时,自主规划其下一步行动。与静态的先检索后阅读模式不同,Agentic RAG 涉及对 LLM 的迭代调用,中间穿插工具或函数调用以及结构化输出。系统会评估结果,优化查询,必要时调用额外的工具,并持续循环此过程,直到获得满意的解决方案。
DeepSeek R1是DeepSeek公司于2025年1月20日发布的推理模型,被认为媲美OpenAI的o1模型。DeepSeek R1满血版: 模型 总参数量 激活参数量 上下文长度 下载链接 DeepSeek-R1-Zero 671B 37B 128K 🤗 HuggingFace DeepSeek-R1 671B 37B 128K 🤗 HuggingFace DeepSeek R1作为一个超大规模模型,其部署有严格的硬件要求,特别是在GPU内存和计算能力方面。
通过本节的学习,将学会如何使用AutoGen定义智能体并调用函数和工具。 在这个例子中,我们将赋予智能体一个工具的访问权限,该工具是一个函数,包含可用度假目的地的列表及其度假目的地的可用性。 可以认为这是一个旅行社的智能体可以访问旅行数据库的场景。