A high-throughput and memory-efficient inference and serving engine for LLMs
11451 文章
2091921 浏览次数
950300 粉丝
评论 (0)
推荐文章
Awesome Llm Apps
2周前
•
开源项目
快手开源编程模型KAT-Dev-72B-Exp刷新纪录，夺得开源模型第一！
3周前
•
开源项目
开源免费的股票市场数据项目： OpenStock！实时监控股票数据！
3周前
•
开源项目
速抢（2核2G）77元/年香港免备案服务器
0秒前
•
开源项目
蚂蚁开源万亿参数语言模型Ling-1T，更快更强的推理能力！
3周前
•
开源项目
开源斩获2.4kstar !NeuTTS Air：仅需3秒音频即可克隆声音！
3周前
•
开源项目
英伟达一口气开源多项机器人技术，与迪士尼合作的物理引擎也开源
1月前
•
开源项目
首个开源实现100%可复现的稳定RL训练框架来了！2次结果完全重合
1月前
•
开源项目
