欢迎使用MNN文档

MNN 是一个高效、轻量的深度学习推理引擎，支持 CNN / Transformer / LLM / Diffusion 等模型，覆盖移动端、服务器等多种平台。

遇到问题请先查看文档和FAQ，如果没有答案请在Github提issue或在钉钉群提问。

介绍

• MNN介绍

快速开始

• 快速开始
• Python 快速开始（5分钟）
• C++ 快速开始
• 示例工程

LLM 部署

• 大语言模型
• Tokenizer
• 预转换模型下载

Diffusion 部署

• 扩散模型

模型转换与优化

• 模型转换工具
• 🚀 MNN 基于后训练的模型压缩指南
• 离线量化工具
• Benchmark工具
• 测试工具
• 可视化工具
• Python工具

推理用法

• Module API使用
• Session API使用
• Expr API使用
• Python API使用
• PyMNN 完整指南
• 模型转换进阶
• 运行时后端配置
• 输入输出数据
• NPU 及相应后端使用说明

从源码构建

• 主库编译
• 编译宏介绍
• 其他模块编译
• Pymnn构建

训练（实验性）

• 使用表达式接口训练
• 加载训练数据
• 优化器使用
• 使用预训练模型Finetune
• 蒸馏训练

贡献指南

• 代码风格
• 自定义算子
• 自定义后端

FAQ

• 常见问题与解答

C++ API

• Module
• Interpreter
• Tensor
• VARP
• Variable
• Expr
• ImageProcess
• Matrix
• MathOp
• NeuralNetWorkOp
• Optimizer

Python API

• MNN
• expr.Var
• expr
• numpy
• nn._Module
• cv
• nn
• optim
• data
• loss
• compress
• linalg
• random
• llm
• audio
• MNN.Tensor [deprecated]
• MNN.CVImageProcess [deprecated]
• 不建议使用该接口，请使用cv代替
• MNN.CVMatrix [deprecated]
• MNN.OpInfo
• nn.RuntimeManager
• optim.Optimizer
• data.Dataset
• data.DataLoader

Python API（已废弃）

• MNN.Interpreter [deprecated]
• MNN.Session [deprecated]

Indices and tables

• Index

• Module Index

• Search Page