CodeNest 代码巢穴
j jundot / omlx
AI 工具 English

jundot / omlx

github.com

访问官网
29 浏览 15 访问

LLM inference server with continuous batching & SSD caching for Apple Silicon — managed from the macOS menu bar (1,860 stars)

标签

# GitHub # 开源项目

相关资源