CUDA · GitHub Topics

#大语言模型#A high-throughput and memory-efficient inference and serving engine for LLMs

gpt 大语言模型 PyTorch llmops mlops model-serving transformer llm-serving inference llama amd rocm CUDA inferentia trainium tpu xpu hpu deepseek qwen

Python 41.16 k

15 分钟前

hashcat / hashcat

最快、最先进的密码还原破解工具

hashcat password cracking gpgpu opencl C hashes CUDA

C 22.16 k

7 个月前

NVIDIA / nvidia-docker

Build and run Docker containers leveraging NVIDIA GPUs

翻译 - 利用NVIDIA GPU构建和运行Docker容器

nvidia-docker Docker CUDA gpu

Makefile 17.34 k

1 年前

NVlabs / instant-ngp

#计算机科学#Instant neural graphics primitives: lightning fast NeRF and more

翻译 - 即时神经图形基元：闪电般快速的 NeRF 等

神经网络机器学习 CUDA nerf computer-graphics 机器视觉 3d-reconstruction signed-distance-functions function-approximation real-time realtime real-time-rendering

Cuda 16.38 k

1 个月前

kaldi-asr / kaldi

kaldi-asr/kaldi is the official location of the Kaldi project.

翻译 - 这是Kaldi项目的正式所在地。

kaldi C++CUDA Shell speech-recognition speech-to-text speaker-verification speaker-id speech

Shell 14.64 k

1 个月前

isl-org / Open3D

#计算机科学#Open3D: A Modern Library for 3D Data Processing

翻译 - Open3D：3D数据处理的现代库

mesh-processing computer-graphics OpenGL C++Python reconstruction odometry 可视化 registration 机器学习 3D Point cloud rendering GUI 3d-perception gpu arm CUDA PyTorch Tensorflow

C++ 12.04 k

1 天前

sgl-project / sglang

#大语言模型#SGLang is a fast serving framework for large language models and vision language models.

CUDA inference llama llava 大语言模型 llm-serving moe PyTorch transformer vlm llama3 llama3-1 deepseek deepseek-llm deepseek-v3 deepseek-r1 deepseek-r1-zero

Python 11.77 k

1 小时前

vosen / ZLUDA

CUDA on non-NVIDIA GPUs

翻译 - 英特尔GPU上的CUDA

CUDA Rust

Rust 10.87 k

4 天前

srush / GPU-Puzzles

#计算机科学#Solve puzzles. Learn CUDA.

CUDA 机器学习 puzzles

Jupyter Notebook 10.68 k

6 个月前

numba / numba

NumPy aware dynamic Python compiler using LLVM

翻译 - 使用LLVM的NumPy感知动态Python编译器

Python NumPy LLVM 编译器 CUDA parallel numba

Python 10.27 k

6 天前

cupy / cupy

NumPy & SciPy for GPU

翻译 - CUDA加速了类似NumPy的API

CUDA cudnn cublas cusolver nccl Python NumPy cupy curand cusparse gpu SciPy tensor rocm

Python 9.98 k

2 天前

rapidsai / cudf

cuDF - GPU DataFrame Library

翻译 - cuDF-GPU数据框库

gpu rapids cudf arrow CUDA pandas dataframe dask 数据分析数据科学 pydata C++Python

C++ 8.74 k

6 小时前

replicate / cog

#计算机科学#Containers for machine learning

containers CUDA 深度学习 Docker 机器学习 PyTorch Tensorflow 人工智能

Python 8.46 k

4 天前

catboost / catboost

#计算机科学#A fast, scalable, high performance Gradient Boosting on Decision Trees library, used for ranking, classification, regression and other machine learning tasks for Python, R, Java, C++. Supports computa...

翻译 - 快速，可扩展，高性能的“决策树加速梯度”库，用于对Python，R，Java，C ++进行排名，分类，回归和其他机器学习任务。支持在CPU和GPU上进行计算。

机器学习 decision-trees gradient-boosting gbm gbdt Python R kaggle gpu-computing catboost 教程 categorical-features gpu coreml 数据科学 big-data CUDA data-mining

C++ 8.28 k

2 天前

kroma-network / tachyon

#区块链#Modular ZK(Zero Knowledge) backend accelerated by GPU

C++CUDA zk 区块链 Cryptography kroma tachyon zero-knowledge 加密货币

C++ 7.77 k

3 个月前

Oneflow-Inc / oneflow

#计算机科学#OneFlow is a deep learning framework designed to be user-friendly, scalable and efficient.

翻译 - OneFlow是一个以性能为中心的开源深度学习框架。

深度学习机器学习深度神经网络 distributed 神经网络 CUDA

C++ 7.34 k

2 天前

NVIDIA / cuda-samples

CUDA 开发人员使用的示例，演示了 CUDA 工具包中的功能

CUDA cuda-kernels cuda-opengl cuda-driver-api

C 7.08 k

6 天前

NVIDIA / cutlass

#计算机科学#CUDA Templates for Linear Algebra Subroutines

翻译 - 用于线性代数子程序的 CUDA 模板

CUDA 深度学习 deep-learning-library C++Nvidia gpu

C++ 7.02 k

12 天前

hybridgroup / gocv

Go package for computer vision using OpenCV 4 and beyond. Includes support for DNN, CUDA, OpenCV Contrib, and OpenVINO.

翻译 - 使用OpenCV 4和更高版本进行计算机视觉打包。

OpenCV Go Video 机器视觉 video-capture face-tracking mjpeg mjpeg-stream 图像处理 Tensorflow openvino dnn object-tracking CUDA onnx yolo

Go 6.91 k

16 天前

chainer / chainer

#计算机科学#A flexible framework of neural networks for deep learning

翻译 - 深度学习的神经网络的灵活框架

深度学习 Python neural-networks 机器学习 gpu CUDA cudnn NumPy cupy chainer 神经网络

Python 5.91 k

2 年前