Lordog / dive-into-llms

Lordog/dive-into-llms

open_in_new前往仓库

《动手学大模型Dive into LLMs》系列编程实践教程

项目概览

项目概述

《动手学大模型Dive into LLMs》是由上海交通大学自然语言处理前沿技术课程（NIS8021）和人工智能安全技术课程（NIS3353）讲义拓展而来的系列编程实践教程。该项目旨在提供大模型相关的入门编程参考，通过简单实践帮助学习者快速入门大模型，更好地开展课程设计或学术研究。教程内容涵盖微调与部署、提示学习与思维链、知识编辑、数学推理、模型水印、越狱攻击、大模型隐写、多模态模型、GUI智能体、智能体安全、RLHF安全对齐等多个主题，并联合华为昇腾社区推出了国产化《大模型开发全流程》公益教程。项目为公益性质，完全免费，欢迎贡献。

核心功能

  • 系列编程实践教程：提供多个主题的Jupyter Notebook脚本和配套课件，覆盖大模型从微调、推理到安全对齐的完整实践链路。
  • 微调与部署指南：指导如何选择预训练模型，在特定任务上进行微调，并部署成可用的Demo。
  • 提示学习与思维链：介绍大模型API调用与推理技巧，包括提示工程和思维链方法。
  • 知识编辑：演示如何编辑语言模型对特定知识的记忆，并进行验证。
  • 数学推理：通过蒸馏迷你R1模型，展示如何让大模型学会数学推理。
  • 模型水印与隐写：讲解在语言模型生成内容中嵌入不可见水印或隐藏信息的技术。
  • 越狱攻击与安全对齐：从攻击和防御两个角度探讨大模型安全，包括越狱攻击方法和基于PPO的RLHF安全对齐实验。
  • 多模态模型：介绍多模态大语言模型的理解和生成能力。
  • GUI智能体：演示如何构建能够操作图形界面的AI Agent，实现自动化任务。
  • 智能体安全：探讨大模型智能体在开放场景中的风险威胁。
  • 国产化全流程教程：联合华为昇腾社区推出覆盖PPT、实验手册和视频的《大模型开发全流程》系列课程，分为初级、中级、高级。

适用与不适用场景

适用场景：

  • 大模型初学者希望系统学习从微调到部署的完整流程。
  • 高校学生或研究者需要课程设计或学术研究的入门参考。
  • 开发者希望了解大模型安全、对齐、水印等前沿技术。
  • 对国产化AI开发（如昇腾平台）感兴趣的学习者。

不适用场景：

  • 需要生产级部署方案的场景（教程侧重教学演示）。
  • 对特定商业模型或闭源API的深度集成需求。
  • 需要最新版本依赖或持续维护的工业项目。

技术架构与依赖

  • 语言：Jupyter Notebook（Python）。
  • 框架：教程涉及预训练模型微调、部署、提示学习、知识编辑、数学推理、模型水印、越狱攻击、隐写、多模态、GUI智能体、智能体安全、RLHF等，具体依赖包括但不限于PyTorch、Transformers、PPO等（仓库资料未提供完整依赖列表）。
  • 平台：部分教程基于华为昇腾基础软硬件开发。
  • 版本：当前版本v0.1.0，状态为构建中。

安装与快速开始

仓库未提供统一的安装脚本或快速开始指南。建议用户直接访问各章节的教程目录（documents/chapterX/），下载对应的Jupyter Notebook脚本和课件，在本地或云端环境中运行。具体安装依赖请参考各章节的README文件（仓库资料未提供详细安装步骤）。

典型使用方法

  1. 浏览教程目录，选择感兴趣的主题（如微调与部署、提示学习等）。
  2. 进入对应章节的documents/chapterX/目录，阅读README教程。
  3. 下载并运行Jupyter Notebook脚本（如dive-tuning.ipynb），按照教程步骤实践。
  4. 结合课件（PDF）理解理论背景。
  5. 对于国产化教程，可前往昇腾社区学习专区获取完整课程。

配置与部署要点

  • 教程中的脚本可能需要GPU资源，建议在配备NVIDIA GPU的环境中运行。
  • 对于昇腾相关教程，需要配置昇腾基础软硬件环境。
  • 模型下载和依赖安装可能涉及网络访问，请确保网络通畅。
  • 具体配置细节请参考各章节的README文件（仓库资料未提供统一配置指南）。

限制、风险与许可证

  • 限制：教程内容基于贡献者个人经验和互联网数据，不保证百分百正确；项目仍在构建中，可能存在疏漏。
  • 风险：教程涉及越狱攻击、隐写等安全主题，仅供学习研究，请勿用于非法用途。
  • 许可证：仓库未提供许可证信息（仓库资料未提供）。
  • 免责声明：项目所有内容仅用于教学目的，如有版权问题请联系删除。

官方链接

信息来源和分析时间

  • 信息来源：GitHub仓库README、仓库元数据、最新发布信息。
  • 分析时间：2025年6月12日（基于最新发布信息）。