设为首页
收藏本站
切换到宽版
首页
Portal
论坛
BBS
耙耙柑
圈子
Group
资讯
导读
Guide
动态
Space
排行榜
Ranklist
帮助
Help
记录
Doing
登录
立即注册
ROOT开源
»
论坛
›
ROOT开源
›
工具
›
RWKV Runner-开箱即用的AI软件-聊天 写作 作曲一键完成 ...
返回列表
发布新帖
[Windows]
RWKV Runner-开箱即用的AI软件-聊天 写作 作曲一键完成
IP属地:
四川省成都市
655
0
善渊
Lv.9
发表于 2024-4-15 14:23:13
|
查看全部
阅读模式
马上注册,结交更多好友,享用更多功能,让你轻松玩转社区。
您需要
登录
才可以下载或查看,没有账号?
立即注册
×
RWKV Runner 是 RWKV 模型的管理和启动工具,由 RWKV 开源社区成员 josStorer 开发,它本身也是一个开源软件,且体积仅 10MB 左右(不含依赖项)。
开箱即用的 AI 功能:易于使用的聊天、写作、作曲交互等 AI 功能,支持聊天预设,支持 MIDI 硬件输入及音轨编辑等功能。
用户友好的 UI 设计:易于理解和操作的参数配置,丰富的操作引导提示;支持多语言;支持主题切换;支持自动更新
丰富的内置功能:内置 WebUI 选项,可一键启动 Web 服务,共享硬件资源,内置模型转换工具、下载管理和远程模型检视、一键 LoRA 微调 (仅限 Windows)
强大的兼容性:预设多级显存配置,几乎在各种电脑上工作良好。(通过配置页面将 Strategy 切换到 CPU / WebGPU,可以在 AMD、Intel 等显卡上运行)。
前后端分离架构:用户可以在服务器部署 backend-python,然后将此程序仅用作客户端,也允许单独部署前端服务,或后端推理服务,或具有 WebUI 的后端推理服务。
RWKV Runner源码:
https://github.com/josStorer/RWKV-Runner
聊天功能
软件提供了开箱即用的聊天功能,你可以与 AI畅聊、提出问题并获取建议。
写作功能
写作功能可根据你提供的文本内容作进一步的续写、翻译等任务。
作曲功能
作曲功能可提供基于 MIDI 格式的乐谱创作、续写等功能,同时为生成的乐谱提供播放功能。
下载与安装
Windows下载 :
https://github.com/josStorer/RWK
... ner_windows_x64.exe
MacOS 下载:
https://github.com/josStorer/RWK
... macos_universal.zip
Linux 下载:
https://github.com/josStorer/RWK
... KV-Runner_linux_x64
若 Github 下载链接无法打开或下载速度太慢,可以在 Baidu 网盘中下载对应的安装包。
网盘地址:
https://pan.baidu.com/s/1kyYCI-XgQQwEZctVyQaFlg?pwd=iwqs
提取码: iwqs
注意:无论下载哪个版本,请将程序放在一个空目录(空文件夹)内再执行,因为软件所有依赖文件均会放在此目录。
准备启动环境
首次打开 RWKV Runner 软件时,点击“运行”按钮,软件会提示你缺失 Python 等依赖项。
跟随软件的引导点击 “安装”,RWKV Runner 会为你自动下载并安装所需的文件。
下载完成并启动 RWKV Runner 后,放置 RWKV Runner 的文件夹应该会具有以下标准的离线环境目录:
其中 models 文件夹用于存放 RWKV 模型,RWKV Runner 默认从此文件夹读取本地 RWKV 模型。
启动环境只需在首次启动 RWKV Runner 时配置一次。
对于 Mac 和 Linux 用户,请手动安装 Python3.10 (通常最新的系统已经内置了)。此外,你可以在设置中指定使用的 Python 解释器。
模型配置与运行
完成启动环境的配置后,我们可以开始下一步:配置、下载并运行 RWKV 模型。
为了照顾新手用户,RWKV Runner 内置了一系列预设模型配置,以降低使用难度。
每个模型配置名称的规则,依次代表着:设备-所需显存/内存-模型规模-模型语言。
例如 GPU-8G-3B-CN,表示该配置用于 Nvidia 显卡,需要 8G 显存,模型规模为 30 亿参数,使用的是中文模型。
模型的规模越大,理论上的任务效果会更好,但对设备的内存、显存等性能要求也会更高。
如果你使用 NVIDIA(英伟达)的显卡,可以选择“GPU” 前缀的预设模型配置。
如果你使用的是 AMD 或 Intel 的显卡,请选择 “CPU” 或“AnyGPU” 前缀的预设模型配置。
选择一项预设的模型配置后,点击右下角的 运行 按钮,即可运行对应的模型。
如果你尚未拥有该预设配置所需的 RWKV 模型,请点击弹窗的“下载”按钮,系统将自动为你下载对应的模型文件。
(如果模型下载失败或无响应,请勾选使用Huggingface镜像源)
等待模型下载完成,再度点击 运行 按钮,即可启动模型,并运行各类 AI 功能。
模型
,
RWKV
,
配置
,
Runner
,
下载
风起于青萍之末,浪成于微澜之间。跌谷底也要开花。沉海底也要望月。与其抱怨于黑暗。不如提灯向前行。
回复
使用道具
举报
提升卡
置顶卡
沉默卡
喧嚣卡
变色卡
千斤顶
照妖镜
相关帖子
•
小说规则下载器 V4.1.0 重写回归,界面、结构、框架全面重新打造【2023-06-09更新】
•
萝卜头文档下载器 1.1 用于下载范文总结讲稿等
•
抖音采集/下载工具 TikTokDownloader 5.3
•
跨平台版哔哩下载姬 DownKyiCore 1.0.8
•
二驴下载app v.1.0.1
•
非常好用的截图软件 支持滚动截屏 绿色中文版
•
PotPlayer64-v1.7.22154-dev免安装版
•
无敌插件,想下什么就下什么
•
强力网页视频下载 插件
•
AI驱动的变声器:可应用游戏,聊天,具有高自由扩展性
返回列表
发布新帖
回复
高级模式
B
Color
Image
Link
Quote
Code
Smilies
您需要登录后才可以回帖
登录
|
立即注册
本版积分规则
发表回复
回帖并转播
回帖后跳转到最后一页
善渊
Lv.9 管理员
主题
238
回帖
92
积分
9223
+ 关注
发消息
图文热点
果园实拍
35 人气
#耙耙柑
天盾网络验证离线版,带全套教程
2958 人气
#工具
Topaz Video AI 5.2.1(智能视频无损放大)
244 人气
#工具
歌词批量一键下载程序,支持从网易云、酷狗
381 人气
#工具
推荐话题
1
天盾网络验证离线版,带全套教程
2958 阅读
道法孜然
2
Topaz Video AI 4.2.2(智能视频无损放大)汉化简体中文版
3053 阅读
善渊
3
Topaz Gigapixel AI 7.1.0(人工智能图片降噪软件)简体中文汉化版
2691 阅读
善渊
4
【4.16 更新V1.2】支持多人配音、全局间隔、免费微软配音工具
1714 阅读
善渊
5
免费AI变声神器!多样音源任你选,让你的声音瞬间变身!
1498 阅读
善渊
最新发布
果园实拍
克隆素材要求
已解决:diacuz3.5手机触屏版如何修改帖子
花卷有声小说下载器(2024/10/24更新到V1.1.
突破123盘1G下载限制工具分享
抖音/快手下载工具v2.7 支持点赞下载 下载
CompressO 版本V1.2.0一个视频压缩工具,可
假如爱有天意
活跃会员
经常参与各类话题的讨论,发帖内容较有主见
关于我们
关于我们
加入我们
新闻动态
联系我们
服务支持
官方商城
官方QQ群
常见问题
售后服务
投诉/建议联系
908164873@Qq.com
让我们一起寻找开源的乐趣
加入QQ群把ヽ( ̄ω ̄( ̄ω ̄〃)ゝ
关注公众号
添加微信客服
Copyright © 2001-2025
ROOT开源
版权所有
All Rights Reserved.
网站地图
|
仅供演示
|
仅供演示
关灯
在本版发帖
官方QQ群
QQ客服
返回顶部
快速回复
返回顶部
返回列表