Skip to content

三种部署方式对比 ​

部署方式优点缺点
本地部署数据安全、自主可控、长期成本低初始成本高、需长期维护、性能受限
官方开放 API前期成本低、无需部署和维护、随时访问隐私不能保障、长期成本高、可控性差
云服务平台前期成本低、无需部署和维护、选择度高安全及隐私不能保障、长期成本高

一句话取舍:想省钱又要隐私就本地部署(但要显卡),想快速上手就用官方 API,想同时用多家模型就上云平台。

API 是什么 ​

API:应用程序编程接口(Application Programming Interface),是软件间标准化的"桥梁",允许开发者无需知晓内部细节即可调用外部功能或数据。

调用大模型 API 时,你不需要知道模型有多少参数、跑在哪台服务器上,只要按约定发一个 HTTP 请求,就能拿到模型的回答。

本地部署:Ollama ​

Ollama 是一个在本地运行、管理大语言模型的工具。官网:https://ollama.com/

适合:有独立显卡、对数据安全要求高、想离线使用的场景。

官方开放 API:以 DeepSeek 为例 ​

主流大模型(如 DeepSeek、Kimi 等)官方都提供了开放 API,无需部署,注册后即可直接调用。

开通流程:

  1. 注册账号
  2. 登录 DeepSeek 开放平台
  3. 充值(课程中充 1 元即可)
  4. 创建 API Key

WARNING

API Key 等同于账号密码:按调用量计费、能代表你的身份。不要写死在代码里,更不要提交到 Git 仓库。正确做法是放进环境变量,代码里用 os.environ.get("DEEPSEEK_API_KEY") 读取(见 Python 调用大模型)。

NOTE

大模型 API 通常按 Token(词元) 计费:你发过去的提示词和模型返回的内容都会折算成 Token 消耗。所以"会话历史滚雪球"(把历史消息全部带上)会让每轮对话越来越贵,详见 会话记忆。

本章选用方案 ​

项目选择
部署方式官方开放 API
服务商DeepSeek
调用协议兼容 OpenAI 格式
base_urlhttps://api.deepseek.com

相关 ​

练习题 ​

一、知识回顾(读完直接做下面的实践题) ​

  1. 三种部署方式:本地部署、官方部署(官方开放 API)、云服务平台
  2. 本地部署的优点:数据安全、自主可控、长期成本低
  3. 官方 API 的优点:前期成本低、无需部署和维护、随时访问
  4. 本地运行、管理大语言模型的工具是 Ollama,官网是 https://ollama.com/
  5. API 的全称是 Application Programming Interface,中文叫应用程序编程接口
  6. 开通 DeepSeek API 的步骤:注册账号 → 登录 → 充值 → 创建 API Key
  7. DeepSeek 的 base_url 是 https://api.deepseek.com
  8. API 是软件间标准化的"桥梁":调用大模型 API 时不需要知道模型有多少参数、跑在哪台服务器上,只要按约定发一个 HTTP 请求就能拿到回答
  9. 本课程选用的方案:官方开放 API(服务商 DeepSeek,调用协议兼容 OpenAI 格式)

二、概念自测 ​

  • - 提示(先自己想,实在想不出再点开)

    一级 · 思路:从"钱、人(维护)、机器(显卡性能)"三个方面想本地部署要自己扛什么

    - 参考答案(做完再点开)

    2-1 初始成本高、需长期维护、性能受限。

  • - 提示(先自己想,实在想不出再点开)

    一级 · 思路:先想"这串字符等同于什么",再想"代码会去哪里"(被推送、被公开),最后想密钥该放在哪种"不随代码走"的地方

    - 参考答案(做完再点开)

    2-2 因为 API Key 等同于账号密码(能扣费、代表身份),代码仓库公开时会被扫描器收割滥用。正确做法:放进环境变量,代码里用 os.environ.get("DEEPSEEK_API_KEY") 读取。

  • - 提示(先自己想,实在想不出再点开)

    一级 · 思路:先想计费的单位是什么(提示词和回复都要折算),再想"滚雪球"每轮到底重复发送了什么

    - 参考答案(做完再点开)

    2-3 按 Token(词元)计费。滚雪球会把之前所有对话每轮都重发一次,所以轮数越多、每轮消耗的 Token 越大,总费用增长得很快。