【[35星]YALS：一个为llama.cpp量身打造的友好型OAI兼容API服务器。亮点：1. OpenAI兼容API，无缝对接现有应用；2. 支持灵活的Jinja2模板引擎，适配HuggingFace标准；3. 高效并发推理，基于Hono和异步TypeScript】
'YALS is a friendly OAI compatible API server built with Deno, Hono, and Zod, designed to facilitate LLM text generation via the llama.cpp backend'
GitHub: github.com/theroyallab/YALS
API服务器 LLM 开源项目 AI创造营
