三种部署方式对比
| 部署方式 | 优点 | 缺点 |
|---|---|---|
| 本地部署 | 数据安全、自主可控、长期成本低 | 初始成本高、需长期维护、性能受限 |
| 官方开放 API | 前期成本低、无需部署和维护、随时访问 | 隐私不能保障、长期成本高、可控性差 |
| 云服务平台 | 前期成本低、无需部署和维护、选择度高 | 安全及隐私不能保障、长期成本高 |
一句话取舍:想省钱又要隐私就本地部署(但要显卡),想快速上手就用官方 API,想同时用多家模型就上云平台。
API 是什么
API:应用程序编程接口(Application Programming Interface),是软件间标准化的"桥梁",允许开发者无需知晓内部细节即可调用外部功能或数据。
调用大模型 API 时,你不需要知道模型有多少参数、跑在哪台服务器上,只要按约定发一个 HTTP 请求,就能拿到模型的回答。
本地部署:Ollama
Ollama 是一个在本地运行、管理大语言模型的工具。官网:https://ollama.com/
适合:有独立显卡、对数据安全要求高、想离线使用的场景。
官方开放 API:以 DeepSeek 为例
主流大模型(如 DeepSeek、Kimi 等)官方都提供了开放 API,无需部署,注册后即可直接调用。
开通流程:
- 注册账号
- 登录 DeepSeek 开放平台
- 充值(课程中充 1 元即可)
- 创建 API Key
WARNING
API Key 等同于账号密码:按调用量计费、能代表你的身份。不要写死在代码里,更不要提交到 Git 仓库。正确做法是放进环境变量,代码里用 os.environ.get("DEEPSEEK_API_KEY") 读取(见 Python 调用大模型)。
NOTE
大模型 API 通常按 Token(词元) 计费:你发过去的提示词和模型返回的内容都会折算成 Token 消耗。所以"会话历史滚雪球"(把历史消息全部带上)会让每轮对话越来越贵,详见 会话记忆。
本章选用方案
| 项目 | 选择 |
|---|---|
| 部署方式 | 官方开放 API |
| 服务商 | DeepSeek |
| 调用协议 | 兼容 OpenAI 格式 |
| base_url | https://api.deepseek.com |
相关
练习题
一、知识回顾(读完直接做下面的实践题)
- 三种部署方式:本地部署、官方部署(官方开放 API)、云服务平台
- 本地部署的优点:数据安全、自主可控、长期成本低
- 官方 API 的优点:前期成本低、无需部署和维护、随时访问
- 本地运行、管理大语言模型的工具是 Ollama,官网是 https://ollama.com/
- API 的全称是 Application Programming Interface,中文叫应用程序编程接口
- 开通 DeepSeek API 的步骤:注册账号 → 登录 → 充值 → 创建 API Key
- DeepSeek 的
base_url是https://api.deepseek.com - API 是软件间标准化的"桥梁":调用大模型 API 时不需要知道模型有多少参数、跑在哪台服务器上,只要按约定发一个 HTTP 请求就能拿到回答
- 本课程选用的方案:官方开放 API(服务商 DeepSeek,调用协议兼容 OpenAI 格式)
二、概念自测
- 提示(先自己想,实在想不出再点开)
一级 · 思路:从"钱、人(维护)、机器(显卡性能)"三个方面想本地部署要自己扛什么
- 参考答案(做完再点开)
2-1 初始成本高、需长期维护、性能受限。
- 提示(先自己想,实在想不出再点开)
一级 · 思路:先想"这串字符等同于什么",再想"代码会去哪里"(被推送、被公开),最后想密钥该放在哪种"不随代码走"的地方
- 参考答案(做完再点开)
2-2 因为 API Key 等同于账号密码(能扣费、代表身份),代码仓库公开时会被扫描器收割滥用。正确做法:放进环境变量,代码里用
os.environ.get("DEEPSEEK_API_KEY")读取。- 提示(先自己想,实在想不出再点开)
一级 · 思路:先想计费的单位是什么(提示词和回复都要折算),再想"滚雪球"每轮到底重复发送了什么
- 参考答案(做完再点开)
2-3 按 Token(词元)计费。滚雪球会把之前所有对话每轮都重发一次,所以轮数越多、每轮消耗的 Token 越大,总费用增长得很快。
