主题
快速开始
资源需求
资源 | 数量 |
---|---|
RTX 4090 24GB | 1 |
数据盘 | 50GB |
使用步骤
0. 创建镜像
您可以参考平台的快速开始来创建镜像。 在选择镜像时,选择Qwen3:
可以在界面获取地址,方便本地调用。
也可以在控制台中调用。使用Jupyter进入后,使用:
sh
ollama run qwen3:32b
使用技巧
qwen3系列模型默认开启思考功能,即输出标签包裹的大段思考内容文本。 如果不需要思考功能,只需要在对话中添加关闭标记/no_think即可关闭。添加开启标记/think即可开启。 关闭和开启标记在用户输入文本中的位置没有强制要求,只要存在于对话文本中就能生效。在对话时,qwen3模型会从对话历史中查找和解析最近的一个关闭或开启标记,标记本身没有意义,所以不会干扰用户输入文本的原意。查找到关闭标记后,后续对话阶段都会关闭思考功能,查找到开启标记后,后续对话阶段都会保持思考功能。