cd RWKV-Runner/frontendnpm cinpm run build #编译前端cd ..python ./backend-python/webui_server.py #单独启动前端服务 4. 如需同时启动前后端服务,请执行以下语句: python ./backend-python/main.py --webui #同时启动前后端服务 5. 如需查看帮助参数,请执行: python ./backend-python/main.py -h ...
支持通过配置页面将策略切换至CPU / WebGPU,使得AMD、Intel等显卡用户也能流畅使用。 🧷模块化架构:支持前后端分离部署,用户可将RWKV Runner作为客户端使用,或单独部署前端服务、后端推理服务,以及带有WebUI的后端推理服务。 下载与安装指南 下载链接:https://xueshu.fun/4167/,下载页面位于网页右侧区域。 下载并解...
Gitee 地址:https://gitee.com/josc146/RWKV-Runner GitHub地址:https://github.com/josStorer/RWKV-Runner RWKV-Runner官方功能介绍 RWKV模型管理,一键启动 前后端分离,如果你不想使用客户端,也允许单独部署前端服务,或后端推理服务,或具有WebUI的后端推理服务。 简明服务部署示例 | 服务器部署示例 与OpenAI AP...
支持通过配置页面将策略切换至CPU / WebGPU,使得AMD、Intel等显卡用户也能流畅使用。 模块化架构:支持前后端分离部署,用户可将RWKV Runner作为客户端使用,或单独部署前端服务、后端推理服务,以及带有WebUI的后端推理服务。 下载与安装指南 下载并解压后,直接双击exe文件即可启动程序。 软件已预置多款模型,选择合适的模...
RWKV Runner是一款为管理和启动RWKV模型而设计的工具,由RWKV开源社区的成员josStorer开发。这个工具本身也是开源的,大小仅约为10MB(不包含依赖项)。 它提供了开箱即用的AI功能,包括易于使用的聊天、写作和作曲交互等功能。你可以根据自己的需求选择聊天预设,支持MIDI硬件输入和音轨编辑等功能,让你轻松享受人工智能带来...
(NSFW)无内容审查写作大模型RWKV本地知识库整合包,embedding,词嵌入,写小说rwkv-3b7b-webui-词嵌入推理整合包:https://pan.quark.cn/s/e3080a4b3ecfRWKV_3B_7B 全精度模型压缩包:https://pan.quark.cn/s/95d8c65326b6项目地址 https://github.com/v3ucn/RWKV_3B_7, 视频播
A RWKV management and startup tool, full automation, only 8MB. And provides an interface compatible with the OpenAI API. RWKV is a large language model that is fully open source and available for commercial use. - RWKV-Runner/go.sum at v1.8.0 · josStore
A RWKV management and startup tool, full automation, only 8MB. And provides an interface compatible with the OpenAI API. RWKV is a large language model that is fully open source and available for commercial use. - RWKV-Runner/go.sum at v1.7.8 · josStore
前后端分离,如果你不想使用客户端,也允许单独部署前端服务,或后端推理服务,或具有WebUI的后端推理服务。 简明服务部署示例 | 服务器部署示例 与OpenAI API兼容,一切ChatGPT客户端,都是RWKV客户端。启动模型后,打开 http://127.0.0.1:8000/docs 查看API文档 全自动依赖安装,你只需要一个轻巧的可执行程序 预设多级...
josStorer/RWKV-Runner 版本发布时间: 2023-11-09 00:04:10 josStorer/RWKV-Runner最新发布版本:v1.7.8(2024-04-03 15:05:13)Changes Features add webUI for easier service sharing (enable it in Configs page or --webui command line parameter, compile it with make build-web) add deployment ...