LLM AI应⽤企业培训⼤纲
⼀、⼤语⾔模型的基本介绍
1. ⼤语⾔模型在整个AI发展的⾥程碑位置
纵向从AI历史中看
横向对⽐当前的其他AI技术
2. LLM的神奇之处：为什么⼤模型能做这么多事？
3. LLM并⾮⽆所不能
从现象上看⼤语⾔模型的能⼒边界
从原理上解释⼤语⾔模型的能⼒边界
4. 如何扩展⼤语⾔模型的能⼒边界，使LLM真正为我所⽤： 即⼤模型应⽤开发的价值所在
⼆、⼤语⾔模型应⽤开发的主流技术⼿段
1. LLM应⽤的五层架构：算法算⼒数据 → 模型层 →(中间件层) → 应⽤层 → ⽤户层
2. 模型层-1：如何选择适合⾃⼰的⼤模型
主流⼤模型的评测体系
国内“百模⼤战”后的当前“战况”
3. 模型层-2：模型微调技术介绍
4. 应⽤层-1：RAG技术介绍
5. 应⽤层-2：Agent技术介绍
6. 应⽤层-3：Prompt⼯程介绍
7. ⽤户层：从CUI →GUI → CUI
三、在当前技术⼿段下，LLM的应⽤场景
1. 市场上⽬前的LLM 应⽤种类
“AI+”: AI native应⽤及举例，包含open AI GPTs 等
”+AI“: 原有saas, super app上渗透AI能⼒
2. 企业如何找到合适的场景
拆解⼯作流
衡量场景可落地的⼀些标准
针对⼀个企业场景进⾏⽅案设计(依据企业诉求展开)
四、企业如何做
1. 选⽤合适的技术⼿段
成本与产出：不同技术⼿段的成本计算⽅法
⻓期与短期：不同技术⼿段是否能构建⻓期壁垒
2. LLM AI应⽤开发
开发：两个主流开发框架：LangChain ， Lamma index介绍
微调技术落地中的常⻅问题
RAG技术落地中的常⻅问题
Agent技术落地中的常⻅问题
Prompt实验⼯程及选择合适的模型⼚商
3. LLM AI应⽤部署
接⼊API服务：叠加到已有业务中，团队具备研发能⼒。
公有云部署：SAAS应⽤，开箱可⽤。
私有化部署：数据、隐私安全。
4. LLM AI应⽤运维：构建持续迭代的AI应⽤
构建LLM AI应⽤的量化评估体系
数据驱动的LLM AI应⽤进化
