MNN-Doc

介绍

  • MNN介绍

快速开始

  • 快速开始
  • Python 快速开始（5分钟）
  • C++ 快速开始
  • 示例工程

LLM 部署

  • 大语言模型
  • Tokenizer
  • 预转换模型下载

Diffusion 部署

  • 扩散模型

模型转换与优化

  • 模型转换工具
  • 🚀 MNN 基于后训练的模型压缩指南
  • 离线量化工具
  • Benchmark工具
  • 测试工具
  • 可视化工具
  • Python工具

推理用法

  • Module API使用
  • Session API使用
  • Expr API使用
  • Python API使用
  • PyMNN 完整指南
  • 模型转换进阶
  • 运行时后端配置
  • 输入输出数据
  • NPU 及相应后端使用说明

从源码构建

  • 主库编译
  • 编译宏介绍
  • 其他模块编译
  • Pymnn构建

训练（实验性）

  • 使用表达式接口训练
  • 加载训练数据
  • 优化器使用
  • 使用预训练模型Finetune
  • 蒸馏训练

贡献指南

  • 代码风格
  • 自定义算子
  • 自定义后端

FAQ

  • 常见问题与解答

C++ API

  • Module
  • Interpreter
  • Tensor
  • VARP
  • Variable
  • Expr
  • ImageProcess
  • Matrix
  • MathOp
  • NeuralNetWorkOp
  • Optimizer

Python API

  • MNN
  • expr.Var
  • expr
  • numpy
  • nn._Module
  • cv
  • nn
  • optim
  • data
  • loss
  • compress
  • linalg
  • random
  • llm
  • audio
  • MNN.Tensor [deprecated]
  • MNN.CVImageProcess [deprecated]
  • 不建议使用该接口，请使用cv代替
  • MNN.CVMatrix [deprecated]
  • MNN.OpInfo
  • nn.RuntimeManager
  • optim.Optimizer
  • data.Dataset
  • data.DataLoader

Python API（已废弃）

  • MNN.Interpreter [deprecated]
  • MNN.Session [deprecated]
MNN-Doc
  • Search

© Copyright 2022, Alibaba Group.

Built with Sphinx using a theme provided by Read the Docs.