《动手学大模型》系列编程实践教程

💡 Updates

2025/06/06 感谢各位朋友们的关注和积极反馈！我们从以下两个方面对本教程进行了更新：

• 上线国产化《大模型开发全流程》公益教程（含PPT、实验手册和视频），此处特别感谢华为昇腾社区的支持！
• 在原系列编程实践教程的基础上进行内容更新，并增加了新的主题（数学推理、GUI Agent、大模型对齐、隐写术等）！

🎯 项目动机

《动手学大模型》系列编程实践教程，由上海交通大学《自然语言处理前沿技术》（NIS8021）、《人工智能安全技术》课程（NIS3353）讲义拓展而来（教师：张倬胜），旨在提供大模型相关的入门编程参考。本教程属公益性质、完全免费。通过简单实践，帮助同学们快速入门大模型，更好地开展课程设计或学术研究。

📚 教程目录

教程内容	简介	地址
微调与部署	预训练模型微调与部署指南：想提升预训练模型在指定任务上的性能？让我们选择合适的预训练模型，在特定任务上进行微调，并将微调后的模型部署成方便使用的Demo！	[课件] [教程] [脚本]
提示学习与思维链	大模型的API调用与推理指南：“AI在线求鼓励？大模型对一些问题的回答令人大跌眼镜，但它可能只是想要一句「鼓励」”	[课件] [教程] [脚本]
知识编辑	语言模型的编辑方法和工具：想操控语言模型在对指定知识的记忆？让我们选择合适的编辑方法，对特定知识进行编辑，并将对编辑后的模型进行验证！	[课件] [教程] [脚本]
数学推理	如何让大模型学会数学推理？让我们快速蒸馏一个迷你R1！	[课件] [教程] [脚本]
模型水印	语言模型的文本水印：在语言模型生成的内容中嵌入人类不可见的水印	[课件] [教程] [脚本]
越狱攻击	想要得到更好的安全，要先从学会攻击开始。让我们了解越狱攻击如何撬开大模型的嘴！	[课件] [教程] [脚本]
大模型隐写	“看不见的墨水”！想让大模型在流畅回答的同时，悄悄携带只有“自己人”能识别的信息吗？大模型隐写告诉你！	[课件] [教程] [脚本]
多模态模型	作为能够更充分模拟真实世界的多模态大语言模型，其如何实现更强大的多模态理解和生成能力？多模态大语言模型是否能够帮助实现AGI？	[课件] [教程] [脚本]
GUI智能体	想要饭来张口、解放双手？那么让我们一起来让AI Agent替你点外卖、回消息、购物比价吧！	[课件] [教程] [脚本]
智能体安全	大模型智能体迈向了未来操作系统之旅。然而，大模型在开放智能体场景中能意识到风险威胁吗？	[课件] [教程] [脚本]
RLHF安全对齐	基于PPO的RLHF实验指南：本教程”十分危险“，阅读后请检查你的大模型是否在冷笑。	[课件] [教程] [脚本]

🔥 新上线：国产化《大模型开发全流程》

• ✨ 我们联合华为昇腾推出的《大模型开发全流程》公益教程正式上线！前沿技术+代码实践，手把手带你玩转AI大模型 ✨:

  在《动手学大模型》原系列教程的基础上，我们联合华为开发了《大模型开发全流程》系列课程。本系列教程基于昇腾基础软硬件开发，覆盖PPT、实验手册、视频等教程形式。该教程分为初级、中级、高级系列，面向不同的大模型实践需求，旨在将前沿技术通过代码实践的方式，为相关研究者、开发者由浅入深地提供快速上手、应用昇腾已支持模型和全新模型迁移调优的全流程开发指南。

• 🚀 前往昇腾社区探索《大模型开发全流程》系列课程：

  👉《大模型开发学习专区》@ 昇腾社区 👈

• ✨ 课程内容展示 ✨

🙏 免责声明

本教程所有内容仅仅来自于贡献者的个人经验、互联网数据、日常科研工作中的相关积累。所有技巧仅供参考，不保证百分百正确。若有任何问题，欢迎提交 Issue 或 PR。另本项目所用徽章来自互联网，如侵犯了您的图片版权请联系我们删除，谢谢。

🤝 欢迎贡献

本教程目前是一个正在进行中的项目，如有疏漏在所难免，欢迎任何的PR及issue讨论。

❤️ 贡献者列表

感谢以下老师和同学对本项目的支持与贡献：

《动手学大模型》系列教程开发团队：

• 上海交通大学：张倬胜、袁童鑫、马欣贝、 何志威、杜巍、赵皓东、吴宗儒、吴铮、董凌众、张玉龙

• 新加坡国立大学：费豪

《大模型开发全流程》系列教程开发团队：

• 上海交通大学：张倬胜、刘功申、陈星宇、程彭洲、董凌众、 何志威、鞠天杰、马欣贝、 吴铮、吴宗儒、闫子赫、姚杳、袁童鑫、赵皓东;

• 华为昇腾社区：ZOMI、谢乾、程黎明、楼梨华、焦泽昱

🌟 Star History