AI大模型 分类

09-28

AI大模型

若琳部署

milvus-io/milvus：云原生高性能向量数据库3.0

一、官方信息 项目名称 Milvus 仓库地址 https://github.com/milvus-io/milvus 官方网站 https://milvus.io/ 最新更新 2026 年（Milvus 3.0）持续迭代 项目定位

0

0

0

09-27

AI大模型

若琳部署

langfuse/langfuse：开源LLM可观测性与评测平台

一、官方信息 项目名称 Langfuse 仓库地址 https://github.com/langfuse/langfuse 官方网站 https://langfuse.com/ 最新更新 2026 年高速迭代 项目定位

0

0

0

09-23

AI大模型

若琳部署

llm.nvim：在 Neovim 里用大模型做 Ghost-text 代码补全

官方信息 项目名称 llm.nvim（前身 hfcc.nvim） 仓库地址 https://github.com/huggingface/llm.nvim

0

0

0

09-21

AI大模型

若琳部署

MiniCPM：面壁智能端侧小模型部署指南

MiniCPM：面壁智能端侧小模型部署指南 OpenBMB/MiniCPM 是面壁智能（OpenBMB）推出的端侧小模型系列，当前 Star 数约 11.7k，采用 Apache-2.0 协议。本仓库最新发布的是 MiniCPM5-2B，是 MiniCPM5 系列继 MiniCPM5-1B 之后的第

0

0

0

09-19

AI大模型

若琳部署

LMDeploy：OpenMMLab 高性能大模型压缩部署工具包安装与使用指南

LMDeploy：OpenMMLab 高性能大模型压缩部署工具包安装与使用指南 一、官方信息 项目名称 LMDeploy 仓库地址 https://github.com/InternLM/lmdeploy 官方网站 https://lmdeploy.readthedocs.io 最新更新<

0

0

0

09-10

AI大模型

若琳部署

Swift：阿里魔搭大模型微调框架安装与使用指南

Swift：阿里魔搭大模型微调框架安装与使用指南 Swift：阿里魔搭大模型微调框架安装与使用指南 官方信息 项目名称 Swift（Scalable lightWeight Infrastructure for Fine-Tuning） 仓库地址

0

0

0

09-07

AI大模型

若琳部署

xLSTM：长短期记忆扩展架构使用指南

xLSTM：长短期记忆扩展架构使用指南 NX-AI/xlstm 是面向学术界与工业界的新一代循环神经网络架构实现，当前 Star 数约 2.2k，采用 Apache-2.0 协议，主要语言为 Python。它在经典 LSTM 的思想上做了两个关键升级：一是通过"指数门控"配合适当的归一化与稳定化技巧

0

0

0

09-07

AI大模型

若琳部署

bitsandbytes：8-bit/4-bit大模型量化优化库安装与使用指南

bitsandbytes：8-bit/4-bit大模型量化优化库安装与使用指南 bitsandbytes：8-bit/4-bit大模型量化优化库安装与使用指南 官方信息 项目名称 bitsandbytes 仓库地址

0

0

0

08-24

AI大模型

若琳部署

Outlines：可靠大模型结构化输出生成指南

Outlines：可靠大模型结构化输出生成指南 dottxt-ai/outlines 是由 .txt 公司维护的开源项目，实时 Star 数约 16.0k，主打「让大模型输出在生成时就保证结构合法」。本文基于官方 README 完整翻译整理，从项目定位、安装方式、快速上手、真实场景示例、模型集成到核

0

0

0

08-18

AI大模型

若琳部署

TextGen（原 Text Generation WebUI）：本地大模型桌面应用，多后端 + OpenAI 兼容 API 的离线 WebUI｜部署与使用全指南

TextGen（原 Text Generation WebUI）是 AGPL-3.0 本地大模型前端，支持 llama.cpp、Transformers 多后端，提供 Chat/Notebook、工具调用与 OpenAI API。本文覆盖便携包、Conda、Docker 部署、模型放置与参数排查。

1

0

0