## 项目概述 《动手学大模型Dive into LLMs》是由上海交通大学自然语言处理前沿技术课程（NIS8021）和人工智能安全技术课程（NIS3353）讲义拓展而来的系列编程实践教程。该项目旨在提供大模型相关的入门编程参考，通过简单实践帮助学习者快速入门大模型，更好地开展课程设计或学术研究。教程内容涵盖微调与部署、提示学习与思维链、知识编辑、数学推理、模型水印、越狱攻击、大模型隐写、多模态模型、GUI智能体、智能体安全、RLHF安全对齐等多个主题，并联合华为昇腾社区推出了国产化《大模型开发全流程》公益教程。项目为公益性质，完全免费，欢迎贡献。 ## 核心功能 - **系列编程实践教程**：提供多个主题的Jupyter Notebook脚本和配套课件，覆盖大模型从微调、推理到安全对齐的完整实践链路。 - **微调与部署指南**：指导如何选择预训练模型，在特定任务上进行微调，并部署成可用的Demo。 - **提示学习与思维链**：介绍大模型API调用与推理技巧，包括提示工程和思维链方法。 - **知识编辑**：演示如何编辑语言模型对特定知识的记忆，并进行验证。 - **数学推理**：通过蒸馏迷你R1模型，展示如何让大模型学会数学推理。 - **模型水印与隐写**：讲解在语言模型生成内容中嵌入不可见水印或隐藏信息的技术。 - **越狱攻击与安全对齐**：从攻击和防御两个角度探讨大模型安全，包括越狱攻击方法和基于PPO的RLHF安全对齐实验。 - **多模态模型**：介绍多模态大语言模型的理解和生成能力。 - **GUI智能体**：演示如何构建能够操作图形界面的AI Agent，实现自动化任务。 - **智能体安全**：探讨大模型智能体在开放场景中的风险威胁。 - **国产化全流程教程**：联合华为昇腾社区推出覆盖PPT、实验手册和视频的《大模型开发全流程》系列课程，分为初级、中级、高级。 ## 适用与不适用场景 **适用场景：** - 大模型初学者希望系统学习从微调到部署的完整流程。 - 高校学生或研究者需要课程设计或学术研究的入门参考。 - 开发者希望了解大模型安全、对齐、水印等前沿技术。 - 对国产化AI开发（如昇腾平台）感兴趣的学习者。 **不适用场景：** - 需要生产级部署方案的场景（教程侧重教学演示）。 - 对特定商业模型或闭源API的深度集成需求。 - 需要最新版本依赖或持续维护的工业项目。 ## 技术架构与依赖 - **语言**：Jupyter Notebook（Python）。 - **框架**：教程涉及预训练模型微调、部署、提示学习、知识编辑、数学推理、模型水印、越狱攻击、隐写、多模态、GUI智能体、智能体安全、RLHF等，具体依赖包括但不限于PyTorch、Transformers、PPO等（仓库资料未提供完整依赖列表）。 - **平台**：部分教程基于华为昇腾基础软硬件开发。 - **版本**：当前版本v0.1.0，状态为构建中。 ## 安装与快速开始 仓库未提供统一的安装脚本或快速开始指南。建议用户直接访问各章节的教程目录（`documents/chapterX/`），下载对应的Jupyter Notebook脚本和课件，在本地或云端环境中运行。具体安装依赖请参考各章节的README文件（仓库资料未提供详细安装步骤）。 ## 典型使用方法 1. 浏览教程目录，选择感兴趣的主题（如微调与部署、提示学习等）。 2. 进入对应章节的`documents/chapterX/`目录，阅读README教程。 3. 下载并运行Jupyter Notebook脚本（如`dive-tuning.ipynb`），按照教程步骤实践。 4. 结合课件（PDF）理解理论背景。 5. 对于国产化教程，可前往昇腾社区学习专区获取完整课程。 ## 配置与部署要点 - 教程中的脚本可能需要GPU资源，建议在配备NVIDIA GPU的环境中运行。 - 对于昇腾相关教程，需要配置昇腾基础软硬件环境。 - 模型下载和依赖安装可能涉及网络访问，请确保网络通畅。 - 具体配置细节请参考各章节的README文件（仓库资料未提供统一配置指南）。 ## 限制、风险与许可证 - **限制**：教程内容基于贡献者个人经验和互联网数据，不保证百分百正确；项目仍在构建中，可能存在疏漏。 - **风险**：教程涉及越狱攻击、隐写等安全主题，仅供学习研究，请勿用于非法用途。 - **许可证**：仓库未提供许可证信息（仓库资料未提供）。 - **免责声明**：项目所有内容仅用于教学目的，如有版权问题请联系删除。 ## 官方链接 - GitHub仓库：https://github.com/Lordog/dive-into-llms - 最新发布：https://github.com/Lordog/dive-into-llms/releases/tag/v1 - 昇腾社区学习专区：https://www.hiascend.com/edu/growth/lm-development#classification-floor-1 ## 信息来源和分析时间 - 信息来源：GitHub仓库README、仓库元数据、最新发布信息。 - 分析时间：2025年6月12日（基于最新发布信息）。