慕K网体系课-LLM应用开发平台特训营

慕K网体系课-LLM应用开发平台特训营 慕K网体系课-LLM应用开发平台特训营

 

LLM应用开发平台特训营

全流程打造价值极高、可商用的大模型应用开发LLMOps平台
迅速具备低门槛、低成本、高效率构建生成式 AI 原生应用的稀缺能力
教/学/练/测/评教学+大厂内推机会,培养具备AI架构和研发能力的尖端人才

相关推荐:

LLM大语言模型算法特训,带你转型AI大语言模型算法工程师(完结)_思索IT (sisuoit.com)

体系课-AI人工智能算法工程师(视频+代码+电子书)|完结_思索IT (sisuoit.com)

AI Agent智能应用从0到1定制开发(完结)_思索IT (sisuoit.com)

AI人人必修-提示词工程+大模型多场景实战(丰富资料)-超清完结_思索IT (sisuoit.com)

章节目录:

阶段一:【LLMOPs平台搭建】架构设计与基础聊天机器人开发
第1周   LLMOps平台开发基础及架构设计
本周学习大语言模型(LLM)基础及LLMOps平台的开发基础、架构设计,并探讨了大语言模型在企业中的应用及其对软件开发的影响,以及如何利用ChatGPT辅助课程学习及软件开发。
课程安排:认准一手资源:思索it
1、 从零开始快速认知大语言模型(LLM)及应用场景;
2、 探讨大语言模型如何影响软件的构建与交互;
3、 介绍LLMOps平台开发基础及架构设计;
4、 演示LLMOps项目的功能及业务逻辑,并拆分需求;
5、 学习如何利用ChatGPT来辅助课程学习、开发与学习建议;
第2周   LLMOps后端搭建,构建基础聊天机器人
python是人工智能编程语言,本周手把手带领大家,从如何安装,到配置LLMOps项目后端,安装数据库、编写测试脚本,初步了解LangChain框架,并对接OpenAI实现第一个聊天机器人。
课程安排:认准一手资源:思索it
1、掌握Python环境搭建与开发工具配置;
2、学习LLMOps项目后端开发约定及规范,提升代码可维护性;
3、统一项目API接口设计与开发,降低对接成本;
4、掌握PostgreSQL数据库安装与ORM模型的使用;
5、掌握数据库迁移实现数据库版本控制;
6、掌握PyTest代码测试与版本控制,提升代码健壮性;
7、掌握Postman快速调试后端接口技能;
8、对接OpenAI实现第一个聊天机器人;
9、学习LangChain框架降低LLM应用开发难度;
10、学习LangSmith开发平台的使用,用于监测LLM生命周期;
第3周   LLMOPs前端搭建关联聊天机器人API
本周学习Node.js环境的安装、LLMOps前端项目搭建、Vue.js项目架构设计、解决前后端跨域、并配置ArcoDesign框架与Tailwindcss方案实现第一个带UI的聊天机器人。
课程安排:认准一手资源:思索it
1、掌握Node.js环境搭建与开发工具配置;
2、学习LLMOps项目前端开发约定及规范;
3、配置前端API请求库、路由及页面合理划分;
4、为项目添加Tailwindcss原子化css方案,降低css编写难度;
5、解读API开发文档并抽取公共服务,提升接口对接效率;
6、对接后端API实现带UI的聊天机器人;
7、编写测试代码及时发现错误异常;
阶段二:【商业级聊天机器人开发】具备记忆、自动联网、联动自制知识库
第4周   记忆模块开发,让聊天机器人有记忆
本周掌握LLM的上下文窗口概念、了解上下文长度限制与解决方案,学习LCEL表达式,尝试使用LangChain的记忆组件实现对长上下文的记忆及总结,将该方案集成到项目中,实现带记忆/状态功能聊天机器人。
课程安排:认准一手资源:思索it
1、掌握LLM的状态、上下文窗口、长度限制及解决方案;
2、学习LCEL表达式,降低LLM应用开发难度;
3、使用LangChain记忆组件解决LLM无状态/记忆问题;
4、编写带有历史对话总结的Prompt提示词;
5、拆解AutoGPT记忆模块,了解优质项目的解决记忆解决方案;
6、掌握将LLM对话/状态持久化到数据库中的技巧;
7、完成第一个带有记忆功能的机器人;
第5周   数据集模块开发-实现特定知识库问答
本周学习LLM幻觉解决策略,开发LLMOps知识库模块,实现聊天机器人特定问答。学习向量数据库配置,涉及词向量、Embedding、数据集、异步队列、分词、搜索重排与测试。
课程安排:认准一手资源:思索it
1、 了解LLM出现幻觉的原因,及常见解决方案;
2、 掌握常见向量数据库的配置及使用,并在项目中对接向量数据库;
3、 学习文本嵌入模型Embeddings的用途及使用;
4、 掌握LangChain的文档加载器及文本分割器的使用,实现LLM读取文件功能;
5、 掌握对象存储功能,分离文件存储与代码运行环境;
6、 掌握Celery分布式队列任务的使用,高效处理耗时或者定时任务;
7、 掌握jieba分词工具,实现文本关键词提取;
8、 掌握Rerank搜索重排序功能及原理;
9、 在LLMOps项目中集成知识库功能;
10、 聊天机器人关联知识库,完成基于知识库问答功能;
11、 聊天机器人与前端UI完成对接,实现文件上传及对话;
第6周   插件功能开发-聊天机器人实时联网获取信息
本周学习GPT-4/New Bing联网,LLM回调,ReACT对话链与Agent策略。掌握LangChain组件,创建LangGraph Agent并集成插件,实现聊天机器人实时联网。
课程安排:认准一手资源:思索it
1、了解LLM应用的短板与局限性;
2、了解GPT-4/New Bing底层如何实现联网;
3、学习Agent基础概念及不同Agent的适用场景;
4、学习LLM的函数回调及格式化输出,让LLM拥有更强的能力;
5、掌握LangChain中的工具组件,开发自定义工具;
6、掌握在LangChain中构建Agent,让LLM自主决策工具选择;
7、掌握LangGraph构建图应用,实现可观测的Agent;
8、完成LLMOps项目聊天机器人的实时联网搜索信息功能;
9、完成LLMOps项目前端接口的对接;
阶段三:LLMOps应用平台可视化+安全性保障+性能优化+开放API
第7周   Prompt引擎模块开发-可视化编排
本周主要深入学习LangChain的提示模板组件、完成对提示模板的设计、历史提示模板的管理、零样本/低样本下如何写出高质量的Prompt,并为项目添加AI提示词优化接口。
课程安排:认准一手资源:思索it
1、掌握零样本/低样本下如何写出高质量的Prompt;
2、学习OpenAI官方分享的Prompt编写最佳实践;
3、掌握LangChain提示组件,支持让用户自定义编排应用提示;
4、提示模板历史版本开发,便于企业管理历史提示资产;
5、掌握让AI优化提示的相关技巧,减少前端编排难度,并对接接口;
6、前后端接口功能对接及测试、完善;
第8周   响应模块开发与升级-提升聊天机器人响应
本周对比流式与非流式响应,探讨其在应用中的适用性。在Flask中,实现LangChain流式响应;前端fetch获取流式数据,模拟ChatGPT打字效果。优化流式响应-计算和中断功能,提升用户体验。
课程安排:认准一手资源:思索it
1、了解流式响应与非流式响应的基础知识与应用场景;
2、为LLMOps平台聊天机器人添加流式响应支持;
3、后端利用队列+协程实现流式数据传输技巧;
4、前端使用fetch实现获取流式事件数据,并实现打字机效果;
5、流式响应下Token计数与中断流式响应功能的实现;
6、前后端接口功能对接及测试、完善;
第9周   授权认证模块开发-保证应用使用安全
本周主要学习为LLMOps平台添加授权认证功能,主要介绍JWT授权认证原理、第三方授权认证原理,涵盖账号密码授权、第三方授权、接口授权认证等服务,提升平台的安全性。
课程安排:认准一手资源:思索it
1、JWT授权认证原理及介绍;
2、Github授权认证登录原理及介绍;
3、掌握Flask-Login插件实现后端授权认证技巧,守护接口安全;
4、学会前端封装fetch工具实现授权接口携带令牌信息;
5、掌握前端路由守卫的使用,守护页面安全;
6、前后端接口功能对接及测试、完善;
第10周   审核模块开发-确保企业AI生成合规内容
本周主要学习OpenAI的大语言模型审核功能、LangChain审核链、自定义审核功能的开发架构及思路,在LLMOps中集成审核功能,确保企业AI生成合规内容。
课程安排:认准一手资源:思索it
1、了解OpenAI的大语言模型内置审核功能;
2、掌握LangChain宪法链的原理及使用,并在项目中集成;
3、掌握自定义审核功能的开发架构及思路,实现项目基于关键词审核;
4、掌握在流式输出模式下,实现关键词审核功能;
5、掌握流式输出模式下前端实现输出审核替换的技巧;
6、前后端接口功能对接及测试、完善;
第11周   开放API模块-搭建与其他应用连接的桥梁
本周主要学习如何为LLMOps平台开发设计开放接口功能,实现对开放接口的秘钥生成及校验、接口频率限制、利用开放接口实现与其他应用的连接。
课程安排:认准一手资源:思索it
1、学习开放API模块的通用架构及设计思路;
2、开放API常见的授权策略及秘钥生成,确保接口安全;
3、开放API使用频率限制设计思路及实现,确保接口不被滥用;
4、为LLMOps项目集成开放API功能,实现与其他应用连接;
5、前后端接口功能对接及测试、完善;
阶段四:【LLMOps扩展】实现通用型+支持多LLM接入的AI应用
第12周   LLMOps多应用及工作流模块
本周将基础的单应用扩展成多应用,并实现工作流组件,包括:多应用模块设计、工作流模块设计、LangGraph实现图应用、前端Vue-Flow组件使用、工作流转LLM工具设计思路、关联工作流登技巧。
课程安排:认准一手资源:思索it
1、学习LLMOps多应用的架构与设计思路;
2、多应用数据库的配置调整与设计;
3、掌握在LangChain中将Agent转换成Workflow的技巧,实现流程可观测;
4、掌握LangGraph基于YAML配置Workflow的技巧;
5、实现LLMOps平台的Workflow节点与边功能;
6、学会Workflow转LLM工具设计思路,并关联LLM应用,实现可视化编排工作流工具;
7、掌握Vue-Flow组件,前端多应用模块及工作流模块UI页面升级与测试;
第13周   LLMOps集成多LLM模型
本周学习LangChain抽离LLM模型,对齐多模型接口,对齐多LLM模型的接口(带工具回调的大语言模型),支持让AI应用无缝切换到远程或本地LLM,并简单介绍HuggingFace平台的使用。
课程安排:认准一手资源:思索it
1、了解LangChain中的LLM与ChatModel的差异;
2、统一管理多个LLM模型,并实现使用YAML进行模型配置;
3、实现LLMOps项目中AI应用与工作流的多LLM功能集成;
4、简单学会上手使用HuggingFace平台并查找大语言模型;
6、前后端接口功能对接及测试、完善;
阶段五:【 LLMOps平台调优部署】前端调优及生产环境调优部署
第14周上   LLMOps统计模块开发-呈现使用情况
本周学习LLM模型的Token统计与费用计算,为LLMOps添加数据统计分析接口,前端用ECharts展示数据,呈现应用的使用情况。并配置使用预警功能,避免接口被盗刷,提升应用安全。
课程安排:认准一手资源:思索it
1、掌握流式传输和工作流模式下Token的统计与费用计算思路设计与实现;
2、实现LLMOps项目统计可视化API接口设计;
3、前端对接ECharts图表组件实现数据的展示;
4、掌握接口消费预警功能的设计与实现,超过标准时进行邮箱预警,确保接口安全;
5、前后端接口功能对接及测试、完善;
第14周下   LLMOps前端项目优化与配置、部署
本周学习LLMOps前端项目的优化、配置与部署,涵盖:基础/高级组件封装、配置与代码分离、TailwindCSS页面公共样式抽离、骨架屏与加载状态添加、Vue.js项目优化、构建与部署等。
课程安排:认准一手资源:思索it
1、LLMOps前端项目基础/高级组件封装,提升前端代码可复用性;
2、TailwindCSS页面公共样式抽离,提升代码可维护性;
3、掌握API接口的封装与优化,并增加超时、重试、权限校验等功能;
4、学习为Vue.js页面添加骨架屏与加载动画,提升用户体验;
5、掌握Vue.js项目常见的优化技巧、不同的部署方案;
第15周上    LLMOPs后端项目优化与配置
本周学习LLMOps后端项目的优化与配置,涵盖:添加重试机制提升模型运行成功率、添加Cache提升重复请求性能、使用小参数LLM处理不同任务提升项目性能并降低成本、封装LLMOps项目相似性代码等。
课程安排:认准一手资源:思索it
1、掌握LangChain的重试机制,提升小参数LLM的运行成功率;
2、为LLMOps项目添加Cache提升重复请求性能;
3、学习使用多个小参数LLM处理不同任务,提升LLMOps性能并降低成本;
4、封装相似性代码,统一输出响应接口,提升项目可维护性;
第15周下   LLMOps生产环境部署与优化
学习LLMOps在生产环境中的部署与优化,涵盖:本地向量数据库部署、OpenAI接口额度、Azure秘钥申请、gunicorn多进程配置、Nginx限流、Dockerfile容器及云环境部署等。
课程安排:认准一手资源:思索it
1、掌握部署本地向量数据库,确保企业数据安全;
2、学习OpenAI接口额度+并发提升的申请流程;
3、学习Azure企业级OpenAI秘钥申请流程,合规使用GPT模型;
4、掌握gunicorn相关配置,并使用多进程提升项目性能;
5、掌握Nginx配置编写,实现接口限流及防盗刷;
6、掌握Dockerfile配置文件编写,实现Docker容器部署;
7、学习国内两大云平台线上部署:阿里云+腾讯云;
阶段六:LLMOps应用平台多模态插件+第三方应用集成
第16周   多模态插件及开放API与三方应用集成
本周学习LLMOps对接社交媒体,集成多模态插件,涵盖飞书群机器人、微信公众号、与现有应用对接架构设计与思路、Whisper语言识别模型的使用、TTS语音合成、DALLE文生图模型等内容。
课程安排:认准一手资源:思索it
1、掌握开放API与飞书群机器人对接;
2、实现LLMOps应用集成到微信公众号,并解决流式传输响应长的问题;
3、掌握开放API与现有应用的对接设计与实现;
4、掌握文本LLM支持语音输出、图片输出的架构设计与实现;
5、学习Whisper语音识别模型,并对接到聊天窗口;
6、学习TTS语音合成模型,实现音色/音调调节,并对接到聊天窗口;
7、学习elevenLabs语言合并工具,30s复刻任何人的声音,实现企业内部低成本音频解决方案;
8、学习DALLE文生图功能并封装插件,对接LLM应用;
9、前后端接口功能对接及测试、完善;
阶段七:【LLMOps应用平台企业级商用】火热五大商业级AI应用实战
第17周上   构建智能客服系统-实现24h无人轮值客服
本周主要学习利用LLMOps应用平台编排构建智能客服系统,实现24h无人轮值客服,涵盖知识点:客服知识库语料、应用Prompt编写、审核插件使用、小程序电商中间件接入、自营电商中间件快速接入等。
课程安排:准一手资源:思索it
1、电商客服系统知识库准备与Prompt编排;
2、审核插件的调用与测试,实现安全输出;
3、编写放平台对接小程序、自营电商网站;
4、前后端接口功能对接及测试、完善;
第17周下   构建口语学习助手-低成本拥有全天候助教
本周主要学习利用LLMOps应用平台构建口语学习助手,涵盖:应用架构及设计思路学习、工作流编排与测试、语料准别、语音接口测试联调、AI流式响应导致超时的公众号解决方案等。
课程安排:
1、学习口语学习助手系统演示及设计思路;
2、掌握口语助手知识库准备与Prompt编排;
3、学习复杂任务如何拆解成工作流并进行编排;
4、口语助手中间件编写,实现AI语言对话联调;
5、掌握流式响应转完整响应输出的解决方案;
6、掌握流式响应导致超时的公众号解决方案;
7、前后端接口功能对接及测试、完善;
第18周上   快速构建图片转HTML前端智能工具
本周主要学习利用LLMOps构建图片转HTML前端智能工具,涵盖知识点:GPT-4v/4o多模态模型的介绍与使用、应用Prompt编排、图片转HTML智能工具编写、基于开放API二次开发等。
课程安排:认准一手资源:思索it
1、GPT-4O/4V模型的介绍与基础使用;
2、图片转HTML智能工具Prompt编写;
3、编写实现开放API对接图片转HTML智能工具;
4、前端对接开放API进行快速二次开发,满足企业自定义AI需求;
5、前后端接口功能对接及测试、完善;
第18周下   建虚拟数字人-批量生成口播视频/直播推流
本周用LLMOps创建虚拟数字人应用,掌握开放API扩展开发应用的技巧,虚拟数字人功能开发、SadTalker开源数字人解决方案、本地数字人模型部署与联调、直播实时评论采集抓包、OBS推流对接等功能。
课程安排:认准一手资源:思索it
1、学习虚拟数字人应用架构的设计与实现;
2、了解常用数字人模型,涵盖Avatar、SadTalker等模型;
3、了解本地数字人模型的部署与联调;
4、实现虚拟数字人应用编排与开放接口对接;
5、学习直播实时评论采集/弹幕信息采集爬虫;
6、学习OBS联调应用实现视频推流;
7、前后端接口功能对接及测试、完善;
第19周   快速构建PPT自动生成工具
本周学习LLMOps实现自然语言转PPT的设计思路与实现,涵盖:python-pptx包、LangChain规范化输出技巧、PPT生成插件的编写、编排LanguageToPPT应用、中间件编写等功能。
课程安排:认准一手资源:思索it
1、掌握自然语言转PPT功能的架构设计与思路;
2、掌握将复杂AI应用拆解成小任务的流程;
3、掌握python-pptx包的使用,并编排应用Prompt;
4、学习将python-pptx与DALLE集成封装为LLMOps插件;
5、编排文本转PPT应用完成前后端接口功能对接及测试、完善;
阶段八:课程总结与LLM大语言模型进阶
第20周上    课程回顾与总结
本周总结回顾整门课程,并学习LLM扩展知识,涵盖:开发问题总览、LangChain优缺点、技术社区推荐、其他LLM开发框架、AI应用开发及未来发展方向、LangChain源码解析、LLM评测等技能。
课程安排:
1、总结在项目开发中LangChain开发问题总览、探讨LangChain优缺点;
2、了解一些高质量的LLM技术学习社区、其他LLM开发框架及AI应用发展方向;
3、掌握国内外常见的LLM大模型平台的使用与LLM评测/排行榜;
4、如何寻找高质量的Prompt工程库及推荐;
5、LangChain源码解析及后续发展规划;
6、后续职业发展方向及学习方向分享与推荐;
7、整门课程总结;
第20周下   LLM大语言模型的预训练/微调与数据投喂
本周主要学习LLM应用开发之外的相关知识,涵盖预训练、主流微调模型、本地部署大模型、HuggingFace大模型开源社区的使用、企业在不同阶段下的选择、GPT模型的微调等。
课程安排:
1、掌握模型预训练、微调与投喂之间的差异,并在不同的场景进行使用;
2、掌握GPT模型的微调与使用,让模型更符合企业业务需求;
3、掌握主流开源大模型的本地预训练、部署等技能,让企业自行管理自有数据;
4、掌握主流大模型的微调方法;
5、学习业产品在不同阶段下预训练、微调与投喂地选择差异与结合;

本站资源采用百度网盘的形式,购买后点击下载转存到您自己的网盘即可,永久有效!

亲,这个您安心哦!本站所有课程全部都是MP4格式! 无加密 可以直接学习!方便快捷

亲,长期学习建议能开通本站会员,终身会员 可以定制课程,比如:您需要一门课,本站还没有收录,能就可以联系客服进行定制(实战课程一般3天出课,大型课程1-3周出课)

亲,您安心哦 本站24小时都有客服在线为您排忧解难,课程都是有备用链接的 99%不会出现链接失效的情况,万一碰到了扫描课程页右侧微信客服二维码,秒补发