青蛙小白 - 踏歌长行，梦想永在 #

2024-11

• 从Disqus迁移到Remark42
• 使用Text Generation Inference运行大模型

2024-10

• 使用Text Embeddings Inference运行Embeddings模型和Rerank模型
• 在Xinference中使用Rerank模型BAAI/bge-reranker-v2-m3
• 使用LlamaEdge+WasmEdge在本地运行大模型千问2.5
• 安装和开始使用WasmEdge
• 深入学习和理解LangChain Runnables
• 使用vllm单节点多卡分布式部署Qwen2.5-14B-Instruct

Last Comments #