人工智能
大模型安全实战课
从认知到防御，全方位建设大模型安全防线
Course syllabus
章节目录
网页仅提供目录预览，不展示课程正文。
课程目录DIRECTORY ONLY
Published chapters
01开篇词｜大模型安全不是黑科技，是新的基本功
02课前热身｜10道题帮你测试 AI “安全分”
03直播回放｜不想大模型“裸奔”?安全建设三步走!
0401｜初识安全：如何理解大模型安全？
0502｜模型机制：生成式大语言模型的运行逻辑全景图
0603｜风险类型：8类高频安全威胁，你遇到几个？
0704｜安全架构：如何构建一个有边界的大模型系统？
0805｜提示注入攻防战（上）：大模型“听谁的”？
0906｜提示注入攻防战（下）：反制机制与攻防演练
1007｜微调数据“投毒”与模型“后门”
1108｜模型“盗窃”与逆向算法攻击
1209｜敏感信息防范：模型会“记住”用户隐私吗？
1310｜有害信息生成与公共信息风险
1411｜拒绝服务攻击：Prompt也能让模型宕机？
1512｜绕过安全防护的技术与挑战
1613｜提示词过滤净化：第一道防线如何构建？
1714｜输出内容把关：如何精准识别违规生成？
1815 | 黄赌毒等内容治理：AI输出伦理边界谁来定？
1916 | 舆情与品牌防护：防止模型“伤人伤己”
2017｜对齐技术：RLHF、RLAIF与Constitutional AI与行为控制
2118｜数据生命周期安全：从采集到销毁的全景管理
2219｜安全运维：如何构建“大模型的SRE体系”
2320｜红队测试与安全审计：主动发现比事后补救更重要
2421 | 聊天助手的安全挑战与越狱防护机制
2522｜编程助手如何防止代码注入与权限漏洞？
2623｜搜索与问答系统如何识别“幻觉”与事实偏差
2724 | 教育类产品中的儿童保护与内容审查机制
2825｜金融、医疗、政务行业部署私有大模型的安全要点
2926｜可解释性与审计：模型如何“自证清白”？
3027｜融合模型的安全新维度
3128｜联邦学习与分布式安全机制
3229｜安全评估体系：怎么衡量“是否安全”？
3330｜模拟提示注入与防御策略演练
3431｜构建简易版安全过滤器
3532｜企业级安全应用加固案例
3633｜大模型安全的未来趋势与演进路线
37结束语｜AI浪潮波澜四起，安全能力保驾护航！