主题
DeepSeek
简介
DeepSeek-R1 是深度求索2025年发布的国产开源推理模型。利用强化学习,使用远低于业界的生产成本,达成了比肩OpenAI o1水平的推理能力。
DeepSeek-R1 通过冷启动数据和多阶段训练方法解决了模型输出的可读性和语言混合问题,同时开源了六个蒸馏模型,帮助小型模型提升推理能力。
平台在DeepSeek开源小模型的基础上,封装了必要工具。提供了7B、14B、32B、70B四个版本,以及web界面和API两种调用方式。满足不同人群的使用方式。
参数量与显存
我们提供了主流的4个蒸馏小模型,供所有人按需选择。他们所需要的显卡如下所示:
参数量 | 显存需求 | 推荐卡型 | Open WebUI | API |
---|---|---|---|---|
7B | 4.7GB | NVIDIA T4 * 1 | ✅️ | ✅️ |
14B | 9GB | NVIDIA T4 * 1 | ✅️ | ✅️ |
32B | 20GB | NVIDIA GeForce 4090 * 1 | ✅️ | ✅️ |
70B | 43GB | NVIDIA GeForce 4090 * 2 | ✅️ | ✅️ |
TIP
您可以选择更强大的算力卡,来让模型拥有更快得处理速度,以满足您的需求。
快速使用
创建实例
您可以参考平台的快速开始来创建镜像。
在选择镜像的时候,可以在镜像列表中,看到我们的新模型:
创建后跳转到了 我的实例 列表页面。等待数秒后实例开机完成,点击右侧的open-webui即可进入网页会话。
初次使用,会提醒你创建一个账户。这个账户会创建实例中,实例相当于一个小虚拟机。 个人信息和会话记录,既不会保存在平台,也不会发送到第三方。 当实例不再使用,选择释放实例后,数据也会一并摧毁。
创建完成后,登录账户,即可打开会话界面。让我们和 DeepSeek 32B 打个招呼!
可以看到速度非常的快。对付复杂问题也要智能得多。