



AI技术已取得飞速发展,而大语言模型(LLM)正在引领这场技术革命。本书基于MLOps最佳实践,提供了在实际场景中设计、训练和部署LLM的原理与实践内容。本书将指导读者构建一个兼具成本效益、可扩展且模块化的LLM Twin系统,突破传统Jupyter Notebook演示的局限,着重讲解如何构建生产级的端到端LLM系统。本书涵盖数据工程、有监督微调和部署的相关知识,通过手把手地带领读者构建LLM Twin项目,帮助读者将MLOps的原则和组件应用于实际项目。同时,本书还涉及推理优化、偏好对齐和实时数据处理等进阶内容,是那些希望在项目中应用LLM的读者的重要学习资源。阅读本书,读者将熟练掌握如何部署强大的LLM—既能解决实际问题,又能具备低延迟和高可用的推理能力。无论是AI领域的新手还是经验丰富的从业者,本书提供的深入的理论知识和实用的技巧,都将加深读者对LLM的理解,并提升读者在真实场景中应用它们的能力。
作者简介:
保罗·尤斯廷(Paul Iusztin),资深机器学习工程师,在生成式 AI、计算机视觉和 MLOps 领域拥有超 7 年的实战经验。曾在 Metaphysic 担任核心工程师,专注于将大型神经网络推向生产环境。 马克西姆·拉博纳(Maxime Labonne)Liquid AI 的后训练负责人,拥有巴黎理工学院机器学习博士学位,并获得谷歌人工智能与机器学习领域(AI / ML)开发者专家认证。作为开源社区的活跃贡献者,在 GitHub 上开设了LLM 课程,开发了 LLM Aut。 译者简介 孟凡杰,腾讯云技术专家,腾讯云原生调度技术负责人,云原生基金会大使,致力于将 AI 技术与云原生技术相结合,探索资源调度的最优解决方案。 方佳瑞,清华大学计算机系博士,曾任腾讯云技术专家。在机器学习、分布式系统和高性能计算等领域具有丰富的从业经验。
目录:
第1章 理解LLM Twin的概念与架构 1
第2章 工具与安装 19
第3章 数据工程 40
第4章 RAG特征流水线 73
第5章 监督微调 127
第6章 偏好对齐微调 165
第7章 LLM的评估方法 188
第8章 模型推理性能优化 208
第9章 RAG推理流水线 228
第10章 推理流水线部署 255
第11章 MLOps与LLMOps 290
点击下载