人工智能服务
>
最佳实践
>
DeepSeek R1+OpenWebUI镜像部署
想要零代码、无门槛,轻松拥有DeepSeek大语言模型的联网搜索服务,实现丝滑不卡顿的信息检索与对话交互体验吗?
本次实操,我们以超算互联网DeepSeek-R1-OpenWebUI模型镜像为例,三步搭建个人Chatbot,开启你的专属DeepSeek-R1之旅。
以下为DeepSeek-R1模型镜像推理服务算力推荐表,请按需选择。
第一步:创建Notebook在线启动异构加速卡模型镜像
登录超算互联网https://www.scnet.cn个人账号,点击右上角“控制台”; 点击快捷入口中的“Notebook”,进入创建Notebook页面;
选择区域、选择1张异构加速卡AI-64GB(数量按需选择),点击“模型镜像”,在列表中选择jupyterlab-deepseek-r1-openwebui点击创建;
注:DeepSeek-R1-Distill-1.5B/7B/8B/14B模型部署至少需要配置1张异构加速卡AI(64G),32B模型至少需要2张异构加速卡AI(64G),70B模型至少需要4张异构加速卡AI(64G)。 创建成功后,点击“JupyterLab”进入Notebook页面;
在Notebook中选中单元格,点击按钮运行代码,启动服务。
系统会检测当前环境异构加速卡AI数量,根据提示选择要部署的模型,我们这里选择DeepSeek-R1-Distill-Qwen-14B模型,选择正确后服务开始启动,如下图所示: 等待日志打印出端口号(服务启动会打印较多加载信息,请稍等待1~2分钟),当单元格下方出现端口链接时,则说明服务已经启动,复制端口号。
1.返回创建notebook的页面点击“访问自定义服务”,填入端口号,点击“启动任务”,即可跳转Open-webui界面: 2. 填入Open WebUI 体验账号,点击登录,登录成功后即可进入Chatbot页面:
完整的prompt:请用python代码帮我做一个类似于DOS时代的有修真背景的文字冒险RPG游戏。 稍等片刻,即可看到DeepSeek-R1-Distill-Qwen-14B模型针对我们的问题进行的思考过程和回答。 思考过程(默认折叠):
回答:
自行配置python环境,安装random库,将生成的python代码粘贴后运行代码。 运行结果:
以上就是本次实操教程的全部内容了,大家可参照此步骤,在超算互联网使用DeepSeek-R1-openwebui模型镜像搭建Chatbot页面,并创意化设计自己的小游戏。
希望本篇最佳实践为您提供一些有价值的信息和实践技巧。