第3章 和 AI 一起学习:大模型协同学习环境的搭建与验证

本章导读

很多学习者第一次接触大模型时,最直观的体验是打开一个聊天窗口,然后输入问题。这当然是最容易入门的方式,但如果把人工智能学习长期停留在聊天窗口里,就会很快遇到问题:提示词散在聊天记录里,资料散在文件夹里,运行结果不知道保存在哪里,模型到底在本地运行还是在云端运行也说不清楚。等到后面要做数据实验、知识库问答、工具调用、智能体流程和物理 AI 作品时,学习过程就会变得混乱。

所以,本章不只是让你装一个软件或问出第一句话,而是要建立一种新的学习方式:把大模型接入一个可记录、可运行、可复核的工作区。这个工作区至少包括四类东西:用来组织文件的 VS Code,用来保存文字说明和运行结果的 Notebook,用来提供智能能力的本地或云端大模型服务,以及用来进行人工确认和复核的学习记录。

这一章的核心问题可以概括为一句话:

怎样把零散的 AI 聊天能力,整理成一个能持续学习、能留下证据、能安全协作的 AI 学习环境?

这件事看似只是环境准备,实际上会影响后续学习。第4章的数据实验、第6章的提示词对照、第8章的知识库问答、第10章的工具调用、第11章的智能体流程和第13—14章的物理 AI 作品,都需要回到同一条底线:AI 先说明,人再确认,最后由人执行或允许执行;提示词、输出和复核结果必须留下记录。

陆游写过:山重水复疑无路,柳暗花明又一村。 技术学习中遇到卡点很正常。把现象记录下来,再一步一步排查,常常就能找到继续前进的路。

学习目标

先修要求与环境清单

知识准备:先认识这些词

  1. VS Code
    • 一句话说明:AI 学习工作台,用来打开课程目录、Notebook、提示词和记录文件。
    • 工程要点:不是所有 AI 学习都必须用 VS Code,但用统一工作区能让材料、代码、结果和记录放在一起,便于复现和交接。
  2. Notebook
    • 一句话说明:一种把文字说明、提示词、运行单元格和运行结果放在同一个文件里的学习文件,通常后缀是 .ipynb
    • 学习价值:它像可运行的实验记录本,既能读说明,也能看结果,适合用来保存 AI 实践过程。
  3. AI 协同入口
    • 一句话说明:集成在课程工作区中的 AI 助手入口,负责把你的提示词发送给模型,并把模型结果带回工作区。
    • 工程底线:插件可以辅助生成和修改内容,但必须先说明准备做什么,得到人确认后再执行。
  4. 本地大模型服务
    • 一句话说明:运行在本机或局域网中的模型服务,为 Notebook 和 AI 协同入口提供回答能力。
    • 工程要点:这里统一称为本地大模型服务或课程环境包,不把某一个运行工具品牌作为必须掌握的知识点。
  5. 云端大模型服务
    • 一句话说明:模型运行在服务商服务器上,用户通过网页或接口发出请求并得到回答。
    • 适用场景:本地设备能力不足、需要更强模型能力、需要快速完成复杂文本任务时,可在许可范围和安全规范下使用。
  6. CPU、GPU 与 NPU
    • 一句话说明:CPU 擅长复杂调度,GPU 擅长大量并行计算,NPU 面向神经网络推理做专门优化。
    • 学习重点:大模型运行不是电脑能开机就行,它需要合适的计算设备和足够的工作空间。
  7. 内存与显存
    • 一句话说明:内存是系统运行的公共工作区,显存是显卡高速计算时使用的专用工作区。
    • 工程要点:本地模型能不能流畅运行,常常首先看显存或内存是否够用。硬盘空间够,不代表模型运行空间够。
  8. 参数规模与量化
    • 一句话说明:参数规模大,模型通常更强但更吃资源;量化是降低参数表示精度,让模型更省空间、更容易在普通电脑上运行。
    • 误区提醒:量化不是把知识简单删掉,也不是无损压缩;它更像在可接受损失下降低参数表示精度。它可以降低资源占用,也可能带来部分精度或回答质量下降。入门阶段首先追求稳定可用,不追求一开始就运行最大模型。
  9. 环境基线记录
    • 一句话说明:把本机环境、模型名称、服务地址、测试结果、问题现象和复核意见记录下来。
    • 工程价值:没有基线记录,后续出问题时很难知道是 Notebook 错、模型服务错、插件配置错,还是设备能力不足。

3.1 问题与现象:为什么只会聊天,还不算真正的 AI 学习环境?

3.1.1 三种看起来都会用 AI 的学习方式

开课第一天,课程任务要求完成同一个练习:请 AI 用通俗语言解释模型量化,并保存一份学习记录。

学习方式 A:只在网页聊天框里提问。 他输入解释一下量化,AI 很快给出一段回答。回答看起来不错,但他没有保存提示词,也没有记录模型名称,第二天想复现时已经找不到原来的上下文。

学习方式 B:在 VS Code 里打开 Notebook,但没有检查模型连接。 他打开了课程文件,也看到了 Notebook,可运行时一直没有输出。后来发现本地大模型服务没有启动,Notebook 其实找不到模型。

学习方式 C:使用课程工作区完成了完整闭环。 他打开第3章 Notebook,运行连通测试,向模型发送提示词,保存模型回答,在复核表里写下回答基本正确,但还需要查证量化是否一定提升速度。最后,他把操作系统、模型名称、Notebook 文件名和遇到的问题写入环境基线记录。

这三个人都用过 AI,但只有第三个人真正建立了可持续学习环境。区别不在于谁的问题更高级,而在于谁能把学习过程组织起来。

【思考 1】 为什么不建议只使用网页聊天窗口完成所有实践?请至少从资料保存、结果复现、人工复核、安全边界四个角度中选择两个说明。

思考提示:网页聊天窗口适合快速体验,但不适合长期课程实践。课程需要保存提示词、运行结果、复核记录和错误现场;后续还要运行 Notebook、调用模型服务、管理文件和证据,因此需要统一工作区。

3.1.2 本章要解决的不是装什么,而是怎样协同

第一次环境实践最容易变成安装清单:下载软件、安装插件、启动模型、测试接口。这样当然有必要,但如果只停留在安装步骤,就容易误以为人工智能学习只是装工具。

本章更重要的目标,是建立一条协同主链路:

学习者提出任务
→ Notebook 给出步骤和提示词
→ AI 协同入口或 Notebook 调用本地大模型服务
→ 模型返回解释或建议
→ 学习者人工复核
→ 保存提示词、回答、运行结果和复核意见

这条链路看起来朴素,却是后续所有章节的底座。第4章的数据实验要保存观察表,第6章的提示词实验要保存版本对比,第8章的 RAG 实验要保存资料来源,第10章的工具调用实验要保存审计日志。如果本章没有立好记录和复核的规矩,后续章节就会越学越散。

3.1.3 学习环境的危险动作分级

第3章虽然不做真实业务操作,但从第一天起就要分清哪些动作可以放心做,哪些动作必须停下来确认。

相关内容见表3-1。

表3-1 动作风险等级与处理方式记录表

等级 动作例子 风险特点 第3章处理方式
低风险:安全观察 让 AI 解释概念、总结本章要点 不改变文件,不影响外部系统 可以直接完成,但仍要人工判断是否正确
低风险:学习记录 在课程工作区中新建学习记录 只影响课程目录,容易撤回 先说明路径和内容,再确认执行
中风险:谨慎修改 修改 Notebook、修改配置文件 可能导致环境不可用 保留原文件,确认后再改
高风险:禁止自动执行 删除、覆盖、批量改动文件 可能丢失学习资料或配置 第3章不允许 AI 自动执行
禁止:真实系统外联 接入真实账号、公开密钥、发送外部消息 涉及隐私、费用、法律责任 禁止在本章实践中出现

工程规则很简单:等级越高,越需要人工确认;凡是删除、覆盖、外发和接入真实账号,都不属于本章安全实验范围。


3.2 原理与分析:大模型学习环境到底由什么组成?

相关对比如图3-1所示。图中重点不是软件安装步骤,而是从一次临时聊天转向一份可复核学习证据的过程。

图3-1 AI 协同学习工作台:从一次聊天到一份学习证据

3.2.1 完整的学习环境图景

一个合格的 AI 协同学习环境,不是单一软件,而是一组角色分工:

课程目录
  ├─ 学习说明:说明学什么、为什么学
  ├─ Notebook:组织实验步骤、提示词、运行结果
  ├─ AI 协同入口:把工作区上下文交给模型
  ├─ 本地 / 云端大模型服务:提供回答和生成能力
  └─ 复核记录:保存人的判断、风险提醒和改进意见

这套环境的关键不是工具数量,而是动作顺序。模型不能直接变成替你负责的人。它提供解释、草稿、代码建议或操作计划;真正决定是否执行、是否采纳、是否提交的人,仍然是学习者。

因此,第3章要建立一个基本判断:

AI 是提议者,Notebook 是记录本,VS Code 是工作台,本地模型服务是能力来源,人是负责人。

3.2.2 本地模型与云端模型:不是二选一,而是按任务分工

许多学习者一开始会问:到底应该用本地模型,还是用云端模型?这个问题没有绝对答案,应该看任务目标、设备条件、安全要求和时间成本。

相关内容见表3-2。

表3-2 本地模型、云端模型与课程统一环境对比表

路径 优势 局限 适合场景
本地大模型服务 过程可观察,资料主要留在本地,适合反复练习 受设备性能限制,模型能力可能较弱 环境验证、基础实验、隐私敏感资料演示
云端大模型服务 能力强,部署门槛低,适合复杂文本和跨领域任务 依赖网络、账号和合规授权,可能产生费用 高质量写作、复杂推理、对比体验
课程统一环境 步骤统一,便于统一维护 灵活性较低,依赖统一机房或课程设备配置 主线实践

本章优先使用课程统一配置的本地大模型服务或课程环境包,这样每个人都有一个共同起点。后续需要更强能力时,可以在合规前提下进行云端对比或拓展任务。

3.2.3 为什么不同电脑运行模型差异很大

大模型不是魔法,它需要真实的计算资源。

CPU 负责复杂调度和通用计算。它像一个经验丰富的总调度员,能处理很多不同类型的任务,但当任务变成大量重复的矩阵计算时,单靠 CPU 通常会慢。

GPU 擅长并行计算。大模型推理中有大量重复计算,GPU 可以让许多小计算同时进行,所以带独立显卡的电脑运行本地模型通常更快。

NPU 是面向神经网络推理优化的专用计算单元。许多新手机和新电脑里已经出现 NPU,它强调能效,适合端侧 AI 任务。

内存(RAM) 是系统工作空间,显存(VRAM) 是显卡计算使用的高速专用空间。模型文件下载到硬盘,只说明它存得下;模型运行时还要加载到内存或显存里,才能真正计算。很多“模型加载失败”“模型特别慢”“电脑卡死”的问题,都与内存或显存不足有关。

这里要记住一个拓展学习阶段很重要的工程判断:本地模型运行体验,常常首先受显存或内存限制,而不是只看电脑是不是新。

3.2.4 参数规模与量化:为什么先用小模型更适合入门

模型参数规模通常用 B 表示,7B 就是约 70 亿参数。参数越多,模型通常有更强表达能力,但也需要更多内存、显存和等待时间。

如果用较高精度保存和运行模型,一个 7B 模型通常会占用较多内存或显存,可能超过普通电脑的可用资源。为了让普通电脑也能运行模型,工程上常使用量化。量化可以粗略理解为:用更节省空间的数字形式保存模型参数,在可接受的效果损失下减少模型体积和运行资源,但也可能带来部分精度或回答质量下降。

相关内容见表3-3。

表3-3 模型选择与运行体验对比表

选择 可能效果 使用建议
大模型 + 高精度 能力可能更强,但硬件压力大 不适合作为全班统一入门起点
小模型 + 量化 能力有限,但更容易跑通 适合作为第3章连通验证
云端强模型 能力强,响应稳定 适合作为对比或合规拓展

本章不追求运行最大模型,而追求稳定跑通最小闭环。能稳定运行的小模型,比卡死在启动界面的大模型更有学习价值。

相关原理可用图3-2辅助理解。

图3-2 模型装进设备:参数规模、量化与运行空间

图3-2要表达的重点是:模型不是“下载下来就一定跑得动”。模型运行时需要进入内存或显存这个“工作空间”;模型越大,占用空间越大;量化后的模型更容易放进普通设备,但可能牺牲部分精度。因此,入门阶段应先追求稳定跑通,再比较模型能力。

3.2.5 可用、可复现、可确认:本章的三条底线

可用:环境至少能完成一次最小问答。Notebook 能打开,本地模型服务能响应,AI 协同入口能得到回答。

可复现:别人按照你的记录,能知道你用了哪个 Notebook、哪个模型、哪条提示词、得到什么回答、出现什么问题。

可确认:凡是 AI 要创建文件、修改文件、运行单元格或生成配置,都必须先说明计划,等待人确认后再执行。

这三条不是形式主义,而是后续章节能否顺利推进的基础。如果第3章没有环境基线,第4章运行失败时就不知道是数据文件问题、Notebook 问题还是模型服务问题;如果没有人工复核,第6章生成提示词模板时就容易直接照搬错误结果;如果没有可确认机制,第10章工具调用时就可能出现越权风险。

【思考 2】 有人说:我只要能问 AI 问题就行,不用保存提示词和复核记录。请从可复现和过程性评价两个角度回应。

思考提示:如果没有提示词和复核记录,别人无法知道模型为何这样回答,也无法判断这次学习是否真正完成。学校的 AI 学习不仅看最终答案,还看工具使用、问题解决过程和风险意识。


AI 协同实践:完成一次最小学习闭环

实践目标:在课程统一配置的环境中,用第3章 Notebook 完成一次打开环境 → 调用模型 → 记录回答 → 人工复核 → 保存基线的最小闭环。

预计时间:25—30 分钟。

本节要求:只使用课程目录和 Notebook 提供的安全任务,不接真实账号,不输入隐私数据,不让 AI 自动删除或覆盖文件。

第 1 步:打开课程工作区

在 VS Code 中打开课程提供的目录。先检查三件事:

  1. 左侧文件列表能看到课程目录。
  2. 能找到 notebooks/ 文件夹。
  3. 能打开 ch03_environment_check.ipynb

如果只看到一堆看不懂的 JSON 文本,通常说明 Notebook 没有以正确方式打开,或 Jupyter 插件未启用。此时不要继续运行,先记录问题现象。

第 2 步:检查本地大模型服务是否可用

运行 Notebook 中的模型服务连通测试单元格。你要观察的不是模型回答得多漂亮,而是四个状态:

相关内容见表3-4。

表3-4 模型服务连通测试记录表

检查项 成功标志 失败时先记录什么
服务地址 Notebook 能访问课程环境清单中的地址 地址是否为空、端口是否错误
模型名称 返回内容中能看到当前模型 模型名称是否与课程提供信息一致
响应结果 能得到一段短回答 是无响应、超时,还是报错
保存记录 Notebook 自动生成一条测试记录 记录路径是否存在

如果失败,不要急着重装软件。第3章真正要训练的是:看见失败,先保留现场,再排查。

第 3 步:发送第一条伴学提示词

把下面提示词发给课程 AI 伴学助手:

你是本课程的 AI 伴学助手。请用读者能理解的语言回答问题。每次回答请包含:一句话结论、分步解释、需要我自己核验的地方。遇到不确定事实时,请明确提醒我查证。不要替我完成需要诚信提交的个人作业。

观察 AI 的回答,并填写:

相关内容见表3-5。

表3-5 伴学规则观察表

观察项 你的记录
AI 是否按一句话结论、分步解释、核验点回答
AI 是否提醒不确定事实需要查证
AI 是否承诺不替代诚信作业
你认为这条规则还缺什么

第 4 步:用一个小问题验证硬件直觉

继续输入提示词:

请用 150 字以内解释:为什么同一个本地大模型,在有独立显卡的电脑上可能更快,在普通轻薄本上可能更慢?请同时提到 CPU、GPU、内存或显存。

不要只看回答是否流畅,而要检查它是否包含三个要点:

  1. 是否说明 CPU 和 GPU 分工不同。
  2. 是否说明显存或内存会限制模型加载。
  3. 是否提醒模型越大越吃资源,不是越大越适合当前练习。

把回答保存到 records/ch03_ai_output.md,并写下人工复核意见。复核意见可以很短,例如:

复核意见:回答提到了 GPU 和显存,但没有说明 NPU。作为第3章最小验证可接受;后续阅读正文第2节补充。

第 5 步:生成环境基线记录

在 Notebook 中打开 records/ch03_baseline_template.md,填写以下信息:

相关内容见表3-6。

表3-6 环境基线记录表

项目 记录内容
操作系统 例如 Windows 11 / 课程机房统一环境
使用的课程目录 课程项目文件夹名称
Notebook 文件 notebooks/ch03_environment_check.ipynb
本地模型服务状态 成功 / 失败 / 部分成功
模型名称 以课程环境显示为准
AI 协同入口状态 可用 / 不可用 / 未测试
本次最小问答是否完成 是 / 否
出现的问题 例如超时、无响应、Notebook 无法打开
下一步改进 例如联系课程支持人员、换课程电脑、换小模型

这份记录不是形式材料,而是后续学习的技术身份证。以后某一章运行失败时,先看第3章基线是否可靠。

第 6 步(拓展任务):观察模型大小与响应体验

如果课程环境允许,可以在课程许可范围内切换不同大小的模型,做一次简单观察。不要追求复杂统计,只记录体感差异:

相关内容见表3-7。

表3-7 模型大小与响应体验观察表

模型或环境 是否成功响应 首次响应时间(体感) 回答质量主观评价 备注
小模型 / 量化模型
较大模型
云端模型(如课程允许)

重要提醒:这一步不是比较谁的电脑贵,也不是追求大模型崇拜,而是理解工程取舍:速度、成本、能力、安全和隐私从来都要一起看。


验证与证据:把能用变成可证明

环境可用性检查表

相关内容见表3-8。

表3-8 环境可用性证据表

检查项 是 / 否 证据位置 备注
VS Code 能打开课程目录
Notebook 能正常显示
本地模型服务能响应
AI 协同入口或 Notebook 能发送提示词
模型回答已保存
人工复核意见已填写

常见问题排查表

相关内容见表3-9。

表3-9 常见问题排查表

问题现象 可能原因 优先处理动作
Notebook 打不开,只显示一堆符号 Jupyter 插件未启用或打开方式错误 检查插件,换用 Notebook 方式打开
模型无响应 本地模型服务未启动或模型未加载 检查课程环境清单,重新启动服务
回答很慢 模型较大、设备资源不足、CPU 推理 换小模型、使用课程机房或等待完成
AI 协同入口找不到模型 服务地址或模型名称不一致 对照课程提供的地址和模型名
回答看起来像编的 提示词不够明确或模型知识不足 要求给出依据,人工查证

最小复核记录

请围绕下面三点写 150—200 字:

  1. 本章环境是否已经可用?你凭什么判断?
  2. AI 的回答中有哪些内容需要人工核验?
  3. 后续章节如果运行失败,你会先回看哪一项环境基线?

本章原理小结

第3章的理论不在于记住某个工具名称,而在于理解 AI 学习环境的基本结构:模型服务提供能力,VS Code 组织文件,Notebook 保存实验,AI 协同入口连接模型,人负责确认与复核。硬件方面,CPU、GPU、NPU、内存和显存决定了本地模型运行体验;模型大小和量化决定了能不能在普通设备上稳定运行。工程方面,本章要建立可用、可复现、可确认三条底线。只要这三条底线成立,后续章节就可以围绕同一环境持续迭代。


伦理、安全与边界

第一条底线:不输入真实隐私

第3章所有练习都使用虚拟问题或课程样例,不输入身份证号、家庭住址、真实成绩单、真实账号、未公开企业资料等内容。即使模型服务在本地运行,也要形成最小暴露习惯。

第二条底线:不公开密钥和服务信息

如果课程环境包含访问密钥、服务地址、账号或令牌,不要截图传播,不要写进公开文档,不要上传到公共代码仓库。提交截图时应遮挡敏感字段;如果不确定某一字段是否敏感,应先向课程负责人确认。

第三条底线:不让 AI 自动接管电脑

AI 协同入口可以辅助创建文件、整理内容、解释报错,但不能获得无限权限。凡是涉及删除、覆盖、批量修改、读取无关目录、接入真实账号、发送外部消息的动作,本章一律拒绝或暂停处理。

第四条底线:不把模型回答当事实

模型回答得流畅,不等于事实正确。第3章建立伴学规则,就是为了让 AI 每次都提醒哪些地方需要核验。后续章节中,无论模型生成报告、图表、代码还是建议,都要回到证据和人工复核。

四条职业底线

  1. 不把工具名称当能力本身:会启动某个工具,不等于理解 AI 学习环境。
  2. 不把能回答当作能负责:模型可以辅助解释,但最终判断由人承担。
  3. 不省记录:没有提示词、输出和复核,就无法证明学习过程。
  4. 不在真实系统里试错:第3章只在课程环境和安全样例中验证。

【思考 3】 如果有人把真实 API 密钥写进截图并发到公开群组里,这件事为什么不是小问题?应该如何补救?

思考提示:密钥相当于调用服务的通行证,泄露后可能导致费用损失、越权调用和数据风险。补救时应立即撤回截图、通知课程负责人或平台管理员、废止旧密钥、重新生成密钥,并在后续提交中遮挡敏感信息。


总结与思考

本章核心判断

基础题(理解层面)

  1. 用自己的话解释 VS Code、Notebook、AI 协同入口、本地大模型服务分别承担什么作用。
  2. 为什么同一个模型在不同电脑上运行速度可能差异很大?请至少提到 CPU、GPU、内存或显存中的两个。
  3. 什么是环境基线记录?为什么第3章就要保存它?

迁移题(学习场景)

  1. 如果你的本地模型运行很慢,你会优先采取哪三项措施?请按先低风险、后复杂调整的顺序写出。
  2. 请为本小组设计一份《AI 学习环境交接说明》,至少包括课程目录、Notebook 文件、模型名称、服务状态、注意事项。
  3. 如果只能使用网页版 AI 工具,怎样尽量补足记录、复核、可复现的不足?

风险题(伦理与边界)

  1. 有人让 AI 协同入口把当前目录里没用的文件都删掉,这条提示词有什么风险?应怎样改写成安全请求?
  2. 为什么模型运行在本地不等于可以随便输入隐私资料?
  3. 如果 AI 回答的硬件解释看起来很专业,但你不确定是否正确,你应该如何复核?

补充题(自测层面)

  1. 什么叫 AI 先说明、人再确认、最后再执行?请举一个文件创建场景说明。
  2. 量化模型为什么适合入门练习?它可能带来什么代价?
  3. 第3章的最小学习闭环包括哪几个动作?

本章交付物

请提交第3章过程证据包:

完成本章后,应把环境基线、提示词记录和人工复核意见作为后续实践的起点。后续数据实验、提示词实验、RAG 实验、工具调用实验和智能体实验,都要回到“可用、可复现、可确认”这三条底线。