tensorrt · GitHub Topics

NVIDIA / TensorRT

#计算机科学#NVIDIA®TensorRT™是一款用于在NVIDIA GPU上进行高性能深度学习推理的SDK。此存储库包含TensorRT的开源组件。

tensorrt Nvidia 深度学习 inference gpu-acceleration

C++ 11.3 k

4 天前

Megvii-BaseDetection / YOLOX

#计算机科学#YOLOX is a high-performance anchor-free YOLO, exceeding yolov3~v5 with MegEngine, ONNX, TensorRT, ncnn, and OpenVINO supported. Documentation: https://yolox.readthedocs.io/

翻译 - YOLOX是一款高性能的无锚YOLO，超越yolov3~v5，支持ONNX、TensorRT、ncnn、OpenVINO。

yolox yolov3 onnx tensorrt ncnn openvino PyTorch MegEngine object-detection yolo 深度学习

Python 9.69 k

4 个月前

dusty-nv / jetson-inference

#计算机科学#Hello AI World guide to deploying deep-learning inference networks and deep vision primitives with TensorRT and NVIDIA Jetson.

翻译 - 您好AI World指南，介绍如何使用TensorRT和NVIDIA Jetson部署深度学习推理网络和深度视觉原语。

深度学习 inference 机器视觉 embedded image-recognition object-detection segmentation jetson jetson-tx1 jetson-tx2 jetson-xavier Nvidia tensorrt caffe video-analytics Robotics 机器学习 jetson-nano

C++ 8.16 k

5 个月前

wang-xinyu / tensorrtx

Implementation of popular deep learning networks with TensorRT network definition API

翻译 - 使用TensorRT网络定义API实施流行的深度学习网络

tensorrt mnasnet resnet squeezenet yolov3 mobilenetv2 mobilenetv3 yolov3-spp retinaface yolov4 arcface yolov5 crnn swin-transformer detr yolov7 yolov8 yolov9 yolo11

C++ 7.23 k

3 个月前

mikel-brostrom / boxmot

#计算机科学#BoxMOT: pluggable SOTA tracking modules for segmentation, object detection and pose estimation models

翻译 - 使用 YOLO v5 和深度排序的实时多目标跟踪器

strongsort bytetrack ocsort osnet 深度学习 segmentation tensorrt tracking-by-detection yolo botsort multi-object-tracking mot multi-object-tracking-segmentation

Python 7.01 k

6 小时前

NVIDIA-AI-IOT / torch2trt

An easy to use PyTorch to TensorRT converter

翻译 - 易于使用的PyTorch到TensorRT转换器

jetson-nano jetson-tx2 jetson-xavier PyTorch tensorrt inference classification

Python 4.69 k

7 个月前

Tianxiaomo / pytorch-YOLOv4

PyTorch ,ONNX and TensorRT implementation of YOLOv4

翻译 - YOLOv4的PyTorch，ONNX和TensorRT实现

yolov4 PyTorch darknet2pytorch darknet2onnx tensorrt onnx pytorch-yolov4 yolov4-tiny yolov3

Python 4.5 k

9 个月前

Tencent / TNN

#人脸识别#由腾讯优图实验室开源的高性能、轻量级神经网络推理框架，同时拥有跨平台、高性能、模型压缩、代码裁剪等众多突出优势。

深度学习 mnn ncnn inference PyTorch Tensorflow coreml tensorrt tengine openvino face-detection OCR

C++ 4.47 k

3 个月前

OAID / Tengine

#计算机科学#Tengine is a lite, high performance, modular inference engine for embedded device

翻译 - Tengine是适用于嵌入式设备的精简，高性能，模块化推理引擎

arm 机器学习人工智能 cnn Tensorflow PyTorch onnx x86-64 mips CUDA tensorrt acl npu RISC-V container

C++ 4.45 k

6 天前

DefTruth / lite.ai.toolkit

🛠 A lite C++ toolkit of 100+ Awesome AI models, support ORT, MNN, NCNN, TNN and TensorRT. 🎉🎉

翻译 - 🍅🍅A lite C++ 工具包，包含具有 ONNXRuntime、NCNN、MNN 和 TNN 的出色 AI 模型。 YOLOX、YOLOP、YOLOv5、YOLOR、NanoDet、YOLOX、SCRFD、YOLOX。 MNN、NCNN、TNN、ONNXRuntime、CPU/GPU。

yolox onnxruntime robustvideomatting mnn ncnn tnn yolov6 onnx yolov5 yolov8 tensorrt stable-diffusion

C++ 3.97 k

6 天前

TingsongYu / PyTorch-Tutorial-2nd

#大语言模型#《Pytorch实用教程》（第二版）无论是零基础入门，还是CV、NLP、LLM项目应用，或是进阶工程化部署落地，在这里都有。相信在本书的帮助下，读者将能够轻松掌握 PyTorch 的使用，成为一名优秀的深度学习工程师。

机器视觉 deepsort diffusion-models onnx PyTorch pytorch-tutorial tensorrt yolov5 大语言模型 qwen

Jupyter Notebook 3.28 k

1 个月前

lucasjinreal / yolov7_d2

🔥🔥🔥🔥 (Earlier YOLOv7 not official one) YOLO with Transformers and Instance Segmentation, with TensorRT acceleration! 🔥🔥🔥

翻译 - 🔥🔥🔥🔥 带有 Transformers 和 Instance Segmentation 的 YOLO，带有 TensorRT 加速！ 🔥🔥🔥

yolo yolox detection detextron2 tensorrt yolov6 yolov7 face transformers detr instance-segmentation onnx object-detection

Python 3.13 k

1 年前

PaddlePaddle / FastDeploy

#安卓#⚡️An Easy-to-use and Fast Deep Learning Model Deployment Toolkit for ☁️Cloud 📱Mobile and 📹Edge. Including Image, Video, Text and Audio 20+ main stream scenarios and 150+ SOTA models with end-to-end ...

Android jetson tensorrt onnxruntime object-detection yolov5 openvino picodet uie graphcore intel kunlun rockchip serving onnx stable-diffusion yolov8

C++ 3.12 k

16 天前

tinyvision / DAMO-YOLO

#计算机科学#DAMO-YOLO: a fast and accurate object detection method with some new techs, including NAS backbones, efficient RepGFPN, ZeroHead, AlignedOTA, and distillation enhancement.

深度学习 nas object-detection onnx PyTorch tensorrt yolo yolov5 imagenet damo-yolo

Python 3.02 k

10 个月前

NVIDIA / GenerativeAIExamples

#大语言模型#Generative AI reference workflows optimized for accelerated infrastructure and microservice architecture.

gpu-acceleration large-language-models 大语言模型 llm-inference 微服务 nemo rag retrieval-augmented-generation tensorrt triton-inference-server

Python 2.89 k

7 天前