本书围绕大语言模型应用程序的安全问题展开，共12章，分三个部分层层递进。第一部分（第1-3章）以真实案例引入大语言模型应用程序面临的安全挑战，介绍作者创立的应对项目及经验，同时探讨大语言模型应用架构与数据流控制的重要性，搭建知识框架。第二部分（第4-9章）剖析开发大语言模型应用程序的主要风险，既包含注入攻击、敏感信息泄露等传统安全风险，也涵盖训练数据投毒、幻觉等新兴AI系统特有的问题，每章通过实际案例分析，揭示风险及影响，并给出预防和减轻风险的建议。第三部分（第10-12章）通过科幻故事案例警示安全漏洞叠加的危害，阐述将安全实践融入软件开发全流程的方法，并展望大语言模型与AI技术的发展趋势，引入负责任的人工智能软件工程（RAISE）框架，助力读者维护软件安全。
前言1
第1章 聊天机器人之殇9
1.1 让我们谈谈Tay9
1.2 Tay的光速堕落10
1.3 为什么Tay会失控11
1.4 这是一个棘手的问题13
第2章 OWASP大语言模型应用十大安全风险15
2.1 关于OWASP16
2.2 大语言模型应用十大风险项目17
2.3 本书与十大风险榜单20
第3章 架构与信任边界22
3.1 人工智能、神经网络和大语言模型：三者有何区别22
3.2 Transformer革命：起源、影响及其与LLM的关系23
3.3 基于大语言模型的应用类型26
3.4 大语言模型应用架构27
3.5 结论35
第4章 提示词注入36
4.1 提示词注入攻击案例37
4.2 提示词注入的影响40
4.3 直接与间接提示词注入42
4.4 缓解提示词注入风险44
4.5 结论50
第5章 你的大语言模型是否知道得太多了52
5.1 现实世界中的案例52
5.2 知识获取方法56
5.3 模型训练56
5.4 检索增强生成61
5.5 从用户交互中学习71
5.6 结论72
第6章 语言模型会做电子羊的梦吗74
6.1 为什么大语言模型会产生幻觉75
6.2 幻觉的类型76
6.3 实例分析76
6.4 谁该负责82
6.5 缓解最佳实践83
6.6 结论91
第7章 不要相信任何人92
7.1 零信任解码93
7.2 为什么要如此偏执94
7.3 为大模型实施零信任架构95
7.4 构建输出过滤器102
7.5 结论106
第8章 保护好你的钱包107
8.1 拒绝服务攻击108
8.2 针对大模型的模型拒绝服务攻击110
8.3 拒绝钱包攻击114
8.4 模型克隆115
8.5 缓解策略116
8.6 结论118
第9章 寻找最薄弱环节119
9.1 供应链基础120
9.2 理解大语言模型供应链125
9.3 建立供应链追踪工件129
9.4 大语言模型供应链安全的未来138
9.5 结论143
第10章 从未来的历史中学习145
10.1 回顾OWASP大语言模型应用程序十大安全风险145
10.2 案例研究146
10.3 结论153
第11章 信任流程154
11.1 DevSecOps的演进历程155
11.2 将安全性构建到大模型运维中157
11.3 大模型开发过程中的安全性157
11.4 运用防护机制保护应用程序161
11.5 应用监控164
11.6 建立你的AI红队165
11.7 持续改进169
11.8 结论171
第12章 负责任的人工智能安全实践框架173
12.1 力量174
12.2 责任181
12.3 结论188
点击下载