alibaba / MNN

Arthas 是Alibaba开源的Java诊断工具

快速、简洁、解决大文件内存溢出的java处理Excel工具

一个更易于构建云原生应用的动态服务发现、配置管理和服务管理平台。

大模型Grok-1开源

#安卓#ncnn 是一个为手机端极致优化的高性能神经网络前向计算框架

Open-Sora： 完全开源的高效复现类Sora视频生成方案

Facebook 的 LLaMA 模型在 C/C++ 中的移植

#大语言模型#本地化搭建和运行 Llama2 和其他大模型

llm deploy project based mnn. This project has merged into MNN.

#计算机科学#ONNX 是一种针对机器学习所设计的开放式的文件格式，用于存储训练好的模型。它使得不同的人工智能框架（如Pytorch、MXNet）可以采用相同格式存储模型数据并交互。

#计算机科学#PaddlePaddle High Performance Deep Learning Inference Engine for Mobile and Edge (飞桨高性能深度学习端侧推理引擎）

#人脸识别#由腾讯优图实验室开源的高性能、轻量级神经网络推理框架，同时拥有跨平台、高性能、模型压缩、代码裁剪等众多突出优势。

#计算机科学#校招、秋招、春招、实习好项目！带你从零实现一个高性能的深度学习推理库，支持大模型 llama2 、Unet、Yolov5、Resnet等模型的推理。Implement a high-performance deep learning inference library step by step

#计算机科学#Open deep learning compiler stack for cpu, gpu and specialized accelerators

翻译 - 针对cpu，gpu和专用加速器的开放式深度学习编译器堆栈

用于谷歌Gemma模型的轻量级独立C++推理引擎。

#计算机科学#NVIDIA®TensorRT™是一款用于在NVIDIA GPU上进行高性能深度学习推理的SDK。此存储库包含TensorRT的开源组件。

stable diffusion using mnn

TensorRT-LLM provides users with an easy-to-use Python API to define Large Language Models (LLMs) and build TensorRT engines that contain state-of-the-art optimizations to perform inference efficientl...

#自然语言处理#ModelScope: bring the notion of Model-as-a-Service to life.

#搜索#The AI-native database built for LLM applications, providing incredibly fast hybrid search of dense vector, sparse vector, tensor (multi-vector), and full-text

Transformer related optimization, including BERT, GPT

#十六进制编辑器#ImHex 是一个十六进制编辑器，用于逆向工程师解码、显示和分析二进制数据格式、提取信息或写入字节补丁的工具。

#自然语言处理#OpenVINO™ is an open source toolkit for optimizing and deploying AI inference

翻译 - OpenVINO™工具包存储库