ALADOWN-阿拉下载
  • 首页
  • 栏目分类
    Website News
    Software Recommend
    WebSite Recommend
    Technical Tutorials
    Download Area
    eBOOK Palace
  • About Us
  • About Us
首页 标签 ollama 下的文章

Shimmy──无需 Python 的 Rust 推理服务器

Shimmy:轻量、免费、强大的本地 AI 推理服务,推理库比 Ollama 小 100 倍、启动快 50 倍、内存小 4 倍!支持 OpenAI API 兼容性、自动发现模型、热模型切换和 LoRA 适配器。 ####核心亮点 - 超轻量:相比 Ollama 的 680MB,Shimmy 只有 5.1MB,启动时间不到 100 毫秒,内存占用不到 50MB。 - 即插即用:无需复...

 Software Recommend,Technical Tutorials  2025-09-16 PM  11次  0条

日历

◄     ►
一 二 三 四 五 六 日
1 2
1
3
1
4
1
5 6 7
1
8 9
1
10 11 12 13
2
14
1
15
2
16
4
17 18 19 20 21
22 23 24 25 26 27 28
29 30

 栏目分类

  •  Website News325
  •  Software Recommend8
  •  WebSite Recommend3
  •  Technical Tutorials10
  •  Download Area37
  •  eBOOK Palace2

标签云

银河奇异果socks本地账户splitSSAE17抢购pid西木教授IMDBOBJECTSWINSCP优惠券dockerhub内网免备案改版MTRAMDnodecacheB2Cfail2banThunder日本贝康安显卡加速ymt轻量应用服务器OPENWRT番号个人转发恢复上传大文件MacrovisionCRAWL500本地用户debian 12字魂字体网盘新网seleniumEPELCLOUDMXNAVITELNET中国直连HCDN更新域名注册z-lib一根网线真假辨别SVG谷歌PERL中国国情牛利兹重定向TECHWEBOFFICEcsv转excelSend-MailMessageFDAyum repoSnow BabyFlexNetSmtpClientrealmapt-getDEV_2019关键字北影MOBILE泄露CHROME服务VIDEO4800stableapt关联compose北海道ImageglassCSV to ExcelMPEG涨价鳕鱼油篱笆女代理域名转移warp腾讯地图MonolithcallkitXMANGERFATKVM公众号
© 2025 ALADOWN-阿拉下载 Powered by Typecho Theme by Echo