Skip to content

Ollama-WebUI实操:无需部署,一键对话Nemotron、Qwen2.5等热门LLM

在AI领域,新模型的涌现速度令人目不暇接,用户往往只能望“模”兴叹,如何才能快速使用体验最新、最热的AI模型?

现在,通过超算互联网的Ollama-WebUI模型镜像,无需复杂的配置与部署,只需一句Ollama run热门大模型(如ollama run nemotron)命令,就能对话Nemotron、Llama 3.2、Qwen2.5、Mistral-7B等模型,带你玩转热门开源大语言模型。

本次实操,我们手把手演示如何在超算互联网启动Ollama-WebUI,轻松切换指定对话模型,并评测英伟达Nemotron-70B在言语理解、数字推理、代码生成等场景的表现。

一、在线启动Ollama-WebUI

登录超算互联网(scnet.cn)个人账号,点击右上角“控制台”;

1.png

点击快捷入口中的“Notebook”,进入创建Notebook页面;

2.png

选择区域、加速卡,点击“模型镜像”,在列表中选择想要配置的镜像,这里我们选择jupyterlab-ollama,点击创建;

3.png

创建成功后,点击“jupyterLab”进入Notebook页面;

4.png

进入Notebook页面以此运行单元格;

5.png

当单元格下方出现端口链接时,则说明webUI的服务已经启动,这里复制端口链接;

6.png

返回创建notebook的页面点击“访问自定义服务”,并粘贴端口链接中的“端口号”,点击“启动任务”,即可进入“webui”界面:

7.png

二、创建Open WebUI账号

首次登录Open WebUI需“注册”账号

8.png

填写个人邮箱信息,点击“创建”账号,进入“Ollama”页面;(注意:注册信息只存放在容器内部,不会上传互联网,请放心使用)

9.png

此时,“Ollama”页面默认使用“llama3.1-8B”模型,您也可选择切换其他最新、最热门模型,如“Nemotron-70B”模型。

10.png

三、切换指定对话模型

Ollama支持切换指定的大语言模型,以下是一些可以下载的示例模型:

11.png

下载模型的方式有两种,这里我们选择使用ollama管理员账号拉取指定模型的方式;登录ollama管理员账号,点击个人账号中的“设置”,选择“管理员面板”,进入“模型”界面,填写“模型名称”,点击“下载”,模型会自动从Ollama.com拉取;

12.png

最后,我们一起看看全新开源王者英伟达Nemotron-70B在言语理解、数字推理、常识判断、代码生成、角色扮演等场景的表现。

言语理解

在任何一个历史时代和艺术潮流中,丧失民族特性的艺术家和作品都会成为外来的▁▁▁牺牲品。

选项: A. 影响 B. 文化 C. 潮流 D. 力量

Nemotron-70B给出的答案:

13.png

数字推理

如果每500米远架一根电线杆,则30公里需要架设多少根电线杆?

Nemotron-70B给出的答案:

14.png

常识判断

忒休斯悖论是一种有关身份更替的悖论,这里的“忒休斯”在理论中指的是什么?

Nemotron-70B给出的答案:

15.png

诗句“我寄愁心与明月,随风直到夜郎西”中在“夜郎西”的是谁?

Nemotron-70B给出的答案:

16.png

Qwen2.5-32B给出的答案:

17.png

可以看到,在中文常识知识的判断上,在处理一些具有深厚文化内涵的成语、俗语或特定领域的专业术语时,Qwen2.5-32B模型的优势更为明显。

代码生成

请编写一个Python函数,实现两个整数相加的功能。

Nemotron-70B给出的答案:

18.png

角色扮演

你是一个职业规划师,小李是一个电子商务专业的大学生,对AI行业感兴趣,如何做好个人职场规划?将专业知识与AI更有效的结合?

Nemotron-70B给出的答案:

19.png

20.png

可以推荐一些提升技能的专业书籍吗?

Nemotron-70B给出的答案:

21.png

小李看了很多书但是不系统,如何进行梳理?请给出一些建议

Nemotron-70B给出的答案:

22.png

23.png