在人工智能领域，大规模预训练语言模型一直扮演着重要的角色。

就拿大家熟知的OpenAI来说吧，它的成功得益于其强大的语言理解和生成能力，以及其在多个领域（文字、图片、视频等）的广泛应用。

相比起其他某些套了壳的国产AI网站的大预言模型，可谓遥遥领先

但是，对于大多数用户来说，直接访问OpenAI有些困难，使用各种GPT也处处受限，将这些复杂的模型应用到本地环境并不容易。

而今幸运的是，一款名为RWKV-Runner的开源工具横空出世，它旨在消除技术门槛，让大语言模型的强大能力触手可及。

所以今天，阿云就给大家分享如何在本地环境中简化大模型的部署与应用，做到人人可用。

RWKV Runner（电脑）

RWKV Runner是RWKV模型的管理和启动工具，由RWKV开源社区成员josStorer开发，且体积仅10MB左右（不含依赖项）。

如果你的网络环境良好，可以直接访问Github源码仓库，即可一键下载安装对应版本；反之，可以使用阿云提供的懒人安装包~

注意：无论下载哪个版本，请将程序放在一个空目录（空文件夹）内再执行，因为软件所有后续依赖文件均会放在此目录。

待工具安装完毕，双击打开，即可看到这样一个界面。然后在界面右下角根据自己的PC显卡配置选择语言模型，并点击启动。

程序运行后根据提示安装Python、Pytouch等依赖，以及所选择的模型语言库。（安装依赖及下载对应模型库可能需要数十分钟）

启动环境只需在首次启动RWKV Runner时配置一次即可，等所有需要的内容都下载完毕后就可以开始体验了，部署就是如此简单。

如果运行出现问题，比如显示错误的PyTorch，这时将AMD或Intel的显卡更选为 “CPU” 或“AnyGPU” 前缀的预设模型配置即可。

当看到模型状态：运行中变绿时就可以开始提问了，作为即时问答助手，能够实时响应用户的查询请求，提供准确、详尽的答案。

软件提供了开箱即用的聊天功能，你可以与 AI畅聊、提出问题并获取建议。

在文本写作生成方面，软件展现出了卓越的实力，可根据你提供的文本内容作进一步的续写、翻译等任务。

无论是文章创作、报告撰写、故事编排还是邮件回复，它都能够根据输入的主题、关键词或上下文自动生成连贯、逻辑严密且富有创意的文本内容。

此外，在下载好对应Music模型后，作曲可提供基于MIDI格式的乐谱创作、续写等功能，同时为生成的乐谱提供播放功能。

MIDI（Musical Instrument Digital Interface）是一种音乐数字化协议，它不传输录制的声音，而是使用标准化的数据格式来描述各种音乐元素，例如音符音调信息、旋律、节奏、声音效果等等。

为了照顾新手用户，RWKV Runner内置了一系列预设模型配置，更与OpenAI API兼容，以降低使用难度，实现能力拓展，而不局限于聊天。

不过由于篇幅有限，阿云这里就不能讲太多了，感兴趣的朋友请自行下载体验~

下载链接

①[Windows] RWKV Runner-开箱即用的AI软件-聊天 写作 作曲一键完成：Windows下载 ：https://github.com/josStorer/RWKV-Runner/releases

123云盘分流：https://www.123pan.com/s/OgT7Vv-tVFc.html

百度网盘分流（懒人包含Python及3B模型）：https://pan.baidu.com/share/init?surl=zdzZ_a0uM3gDqi6pXIZVAA&pwd=1111

RWKV Runner源码：https://github.com/josStorer/RWKV-Runner