mnn · GitHub Topics

#大语言模型#MNN是一个轻量级的深度神经网络引擎，支持深度学习的推理与训练。适用于服务器/个人电脑/手机/嵌入式各类设备。目前，MNN已经在阿里巴巴的手机淘宝、手机天猫、优酷等30多个App中使用，覆盖直播、短视频、搜索推荐、商品图像搜索、互动营销、权益发放、安全风控等场景。

mnn convolution vulkan embedded-devices winograd-algorithm 机器学习深度学习 arm 大语言模型 transformer

C++ 10 k

12 小时前

Linzaer / Ultra-Light-Fast-Generic-Face-Detector-1MB

#人脸识别# 💎1MB lightweight face detection model (1MB轻量级人脸检测模型)

face-detection arm inference mnn ncnn

Python 7.3 k

1 年前

RangiLyu / nanodet

#安卓#NanoDet-Plus⚡Super fast and lightweight anchor-free object detection model. 🔥Only 980 KB(int8) / 1.8MB (fp16) and run 97FPS on cellphone🔥

翻译 - ⚡超级快速，轻巧的无锚物体检测模型。 1.8仅1.8mb并在手机上运行97FPS🔥

深度神经网络深度学习 object-detection anchor-free ncnn shufflenet PyTorch mnn repvgg openvino efficientnet Android model-zoo nanodet

Python 5.88 k

7 个月前

Tencent / TNN

#人脸识别#由腾讯优图实验室开源的高性能、轻量级神经网络推理框架，同时拥有跨平台、高性能、模型压缩、代码裁剪等众多突出优势。

深度学习 mnn ncnn inference PyTorch Tensorflow coreml tensorrt tengine openvino face-detection OCR

C++ 4.47 k

3 个月前

DefTruth / lite.ai.toolkit

🛠 A lite C++ toolkit of 100+ Awesome AI models, support ORT, MNN, NCNN, TNN and TensorRT. 🎉🎉

翻译 - 🍅🍅A lite C++ 工具包，包含具有 ONNXRuntime、NCNN、MNN 和 TNN 的出色 AI 模型。 YOLOX、YOLOP、YOLOv5、YOLOR、NanoDet、YOLOX、SCRFD、YOLOX。 MNN、NCNN、TNN、ONNXRuntime、CPU/GPU。

yolox onnxruntime robustvideomatting mnn ncnn tnn yolov6 onnx yolov5 yolov8 tensorrt stable-diffusion

C++ 3.97 k

8 天前

ppogg / YOLOv5-Lite

🍅🍅🍅YOLOv5-Lite: Evolved from yolov5 and the size of model is only 900+kb (int8) and 1.7M (fp16). Reach 15 FPS on the Raspberry Pi 4B~

翻译 - shufflev2-yolov5：更轻、更快、更容易部署。由yolov5进化而来，模型大小只有1.7M（int8）和3.3M（fp16）。当输入大小为320×320时，它可以在树莓派4B上达到10+ FPS~

ncnn yolov5 Android mnn shufflenetv2 repvgg transformer tensorrt pplcnet openvivo mobilenet tflite PyTorch picodet onnxruntime

C++ 2.33 k

9 个月前

dog-qiuqiu / MobileNet-Yolo

#人脸识别#MobileNetV2-YoloV3-Nano: 0.5BFlops 3MB HUAWEI P40: 6ms/img, YoloFace-500k:0.1Bflops 420KB🔥🔥🔥

翻译 - MobileNetV2-YoloV3-Nano：0.5BFlops 3MB HUAWEI P40：6ms / img，YoloFace-500k：0.1Bflops500KB：fire :: fire :: fire：

cnn yolov3 yolo mobilenetv2 mobilenet-yolo ncnn cv object-detection 机器视觉深度学习 darknet mnn face-detection landmark landmark-detection

C 1.72 k

4 年前

wangzhaode / mnn-llm

llm deploy project based mnn. This project has merged into MNN.

chatglm-6b C++CUDA mnn opencl chatglm2-6b qwen-7b baichuan2-7b codegeex2-6b

C++ 1.56 k

2 个月前

Lucchetto / SuperImage

#安卓#Sharpen your low-resolution pictures with the power of AI upscaling

Android mnn real-esrgan super-resolution upscaling 图像处理 compose

Kotlin 1.45 k

1 年前

EdVince / Stable-Diffusion-NCNN

#安卓#Stable Diffusion in NCNN with c++, supported txt2img and img2img

clip C++diffusion mnn ncnn onnx stable-diffusion tensorrt tnn Android executable img2img txt2img

C++ 1.03 k

2 年前

didi / AoE

#安卓#AoE (AI on Edge，终端智能，边缘计算) 是一个终端侧AI集成运行时环境 (IRE)，帮助开发者提升效率。

机器学习人工智能 aoe Android iOS Tensorflow 深度学习 mnist squeezenet Edge mnn ncnn Demo didi 工具 benchmark device

C++ 884

2 年前

nndeploy / nndeploy

nndeploy is an end-to-end model inference and deployment framework. It aims to provide users with a powerful, easy-to-use, high-performance, and mainstream framework compatible model inference and dep...

ascend easy-to-use hpc mnn model-deployment openvino parallel tensorrt yolo

C++ 708

7 天前

TalkUHulk / ai.deploy.box

mnn ncnn tnn onnx C++yolox face Generative Adversarial Network OCR scrfd yolov7 yolov8 WebAssembly mobilesam controlnet lora stablediffusion

C 540

1 个月前

LSH9832 / edgeyolo

#计算机科学#an edge-real-time anchor-free object detector with decent performance

anchor-free 机器视觉 object-detector 深度学习 edge-computing object-detection onnx yolo PyTorch tensorrt mnn ascend

Python 472

13 天前

iwatake2222 / InferenceHelper

#计算机科学#C++ Helper Class for Deep Learning Inference Frameworks: TensorFlow Lite, TensorRT, OpenCV, OpenVINO, ncnn, MNN, SNPE, Arm NN, NNabla, ONNX Runtime, LibTorch, TensorFlow

C++深度学习 Tensorflow tensorrt OpenCV ncnn mnn inference

C++ 285

3 年前