ALADOWN-阿拉下载
  • 首页
  • 栏目分类
    Website News
    Software Recommend
    WebSite Recommend
    Technical Tutorials
    Download Area
    eBOOK Palace
  • About Us
  • About Us
首页 标签 Shimmy 下的文章

Shimmy──无需 Python 的 Rust 推理服务器

Shimmy:轻量、免费、强大的本地 AI 推理服务,推理库比 Ollama 小 100 倍、启动快 50 倍、内存小 4 倍!支持 OpenAI API 兼容性、自动发现模型、热模型切换和 LoRA 适配器。 ####核心亮点 - 超轻量:相比 Ollama 的 680MB,Shimmy 只有 5.1MB,启动时间不到 100 毫秒,内存占用不到 50MB。 - 即插即用:无需复...

 Software Recommend,Technical Tutorials  2025-09-16 PM  202次  0条

日历

◄     ►
一 二 三 四 五 六 日
1 2 3 4 5
5
6 7 8 9 10 11 12
13
1
14 15 16
1
17 18 19
20
1
21 22 23
1
24 25 26
2
27 28 29 30 31

 栏目分类

  •  Website News326
  •  Software Recommend26
  •  WebSite Recommend4
  •  Technical Tutorials16
  •  Download Area37
  •  eBOOK Palace2

标签云

Proxmox企微IKE V2HTTPSSWFMEMORYrealmmongoDEBIAN 10刷销量CLOUD促销券warpWhisperLOVO涨价pythonSPYrustLife's三聚氰胺ACDSEE VIDEOBBR PLUSKVM戈蕾诗nodecachenatTOOLSMACOSlife's DHApublic key is not availableMIPS海外代购安全中心无法直接打开ip地址轻量营销60fpsUFW小米澎湃网站SFTP SERVER酸酸CRAWLDEV_2019Monolith14.2acme.shcompose文本文件密度freediumapt-getkernelhostnamectlo c rTRACEgemini最大连接数量轻量应用服务器GNCapiNETWORK农业部字魂字体RECORDERMacrovisionTCP TIMESTAMPS中石油小程序yum repo商用照片液体钙Excel 2016夏季减肥篱笆女马泰克PVEany connectclient源码CONVERTER隧道质量HEIF UtilityTF另存为REPAIRMeiJi官网代理lean马丁银河奇异果PUTTY10网上购物IDM
© 2025 ALADOWN-阿拉下载 Powered by Typecho Theme by Echo