大模型原理与部署-蜗牛学苑

首页 / AI人工智能 · 第三阶段:大语言模型LLM / 大模型原理与部署

发布于 2024-06-05 · 784 次观看

展开剩余

直播计划
视频列表
评论
课程介绍
资料列表
教师笔记

大模型-20241112-01-回顾与Transformer结构

28分钟 · 173次播放

大模型-20241112-02-位置编码原理与实现

47分钟 · 22次播放

大模型-20241112-03-多头自注意力原理

42分钟 · 28次播放

大模型-20241112-04-掩码残差正则及模型训练

41分钟 · 32次播放

大模型-20241114-01-GPT模型结构与数据集构建

33分钟 · 22次播放

大模型-20241114-02-GPT代码与模型训练和推理

34分钟 · 19次播放

大模型-20241114-03-torch.nn.Transformer分类

43分钟 · 21次播放

大模型-20241114-04-torch.nn.Transformer翻译

15分钟 · 13次播放

大模型-20241116-01-transformers框架概述

31分钟 · 35次播放

大模型-20241116-02-transfromers模型运行

24分钟 · 22次播放

大模型-20241116-03-bert预训练模型分类任务

45分钟 · 21次播放

大模型-20241116-04-文本分类生成翻译操作

27分钟 · 18次播放

大模型-20241116-05-bert模型分类的预处理

33分钟 · 22次播放

大模型-20241116-06-基于bert头条分类再训练

39分钟 · 28次播放

大模型-20241119-01-transformers的pipline

31分钟 · 16次播放

大模型-20241119-02-模型微调技术原理

44分钟 · 30次播放

大模型-20241119-03-peft与LoRA微调实战

44分钟 · 22次播放

大模型-20241121-01-微调Qwen2

38分钟 · 19次播放

大模型-20241121-02-微调Qwen2

27分钟 · 27次播放

大模型-20241121-03-LlamaFactory与量化基础

54分钟 · 39次播放

大模型-20241123-01-模型量化原理与公式

45分钟 · 25次播放

大模型-20241123-02-模型量化实战操作

37分钟 · 16次播放

大模型-20241123-03-各类环境配置注意事项

34分钟 · 20次播放

大模型-20241123-04-Ollama部署与调用

29分钟 · 35次播放

大模型-20241123-05-Ollama的API调用

48分钟 · 59次播放

共有条回复

{{replyComment.createTime | dateForMat(replyComment.createTime)}}

课程目标

能理解并自主Transformer和GPT架构模型，能熟练运用transformers和modelscope模型进行模型应用、模型微调、模型量化等、能够熟练部署私有化大模型并进行开发调用。

知识要点

Transformer架构、编码器-解码器结构、GPT模型框架、自主开发和训练Transformer与GPT模型、HuggingFace的tansfomers框架的应用、模型微调技术、模型量化技术(peft与LLaMAFactory）、大模型实验环境构建、Ollama与OpenWebUI模型部署、大语言模型的两大托管平台：HuggingFace、ModelScope的使用、模型的下载与运行、提示词工程等。

课程详情

大模型原理-源代码.zip

大模型原理与部署，各类微调训练等全套源代码

33.34MB · 10次下载

大模型-数据集.zip

模型训练和微调会用到的数据集

28.79MB · 10次下载

授课讲师

邓强

邓强，蜗牛学苑创始人，资深AI讲师，高级AI训练师，四川大学硕士，22年软件研发及管理经验。目前专注于AI和大模型领域的课题和技术研究。曾为中原银行、永州医院、南天佳信、深圳移动、大唐软件、华夏基金等30余家企业提供研发咨询及企业内训服务。从事培训事业以来教授学生数万，遍布国内外各大IT公司，视频课程全网播放量超1000万。出版多部IT与AI相关技术书籍，教学严谨，原理讲解透彻，擅长项目驱动式教学，硬派实战专家。

看看TA的主页

推荐课程

Linux系统移植

罗召勇 · 2090人观看 · 1602分钟

Linux系统移植

对常用系统进行移植，移植车机QT文件系统。移植各通信协议的驱动，实现基于通信协议的车辆控制，如车辆行驶状态信息读取、雷达数据、车辆空调控制等功能，并可实时监测并提醒驾驶员疲劳驾驶或超速等。实现将车机系统的界面程序移植到开发板上运行，可定制的仪表盘和信息娱乐界面，并可通过QT界面控制程序控制车辆的车窗、坐椅、空调等功能。

驱动移植，安卓系统移植，鸿蒙系统移植，文件系统构建

加入收藏

dva和umi实战

徐朝波 · 18622人观看 · 469分钟

dva和umi实战

基于TypeScript+dvajs+umijs完成项目实战开发

TypeScript核心编程、语法检测、面向对象语法、dva.js、umi.js介绍

加入收藏

C语言基础_成都

邓家军 · 1000人观看 · 733分钟

C语言基础_成都

物联网的体系架构，Linux基础命令，gcc编译器,vim编辑器，C语言基础，进制转换，表达式，运算符，流程控制，数组，字符串，函数

加入收藏

应用服务器部署

邓强 · 16845人观看 · 866分钟

应用服务器部署

1、能够在Linux和Docker环境下部署各类应用系统，如LAMP、LNMP、JAVA+Tomcat、HTTPS、集群环境、Redis、宝塔等 2、能够在Windows操作系统下完成各类Web及应用服务器环境的配置及使用Shell进行自动化安装部署 3、理解各类服务器的核心配置项，并了解其脆弱项，能够对其日志进行分析，并通过配置项进行安全加固 4、逐步深入理解HTTP和HTTPS协议的特性，并拓展WebSocket、HLS、SOAP等其他协议，为后续的学习打下坚实的基础

Linux下环境部署、Xampp详细配置、Apache与MySQL配置项、Java安装、Tomcat配置、HTTPS服务器配置、Nginx配置、LNMP配置、集群环境配置、Jboss安装配置、宝塔控制面板、Docker命令与核心操作、Docker容器化部署、日志文件配置、安全配置项、Nginx配置安全过滤器、Shell自动化部署、Windows环境部署、流量泛洪实验器

加入收藏

微信小程序影城实战

江岚 · 2995人观看 · 180分钟

微信小程序影城实战

组件开发、请求封装、代码优化、swiper组件使用

基于微信小程序原生开发，云开发和部署、基于项目实战，掌握微信前后端实战流程

加入收藏

系统测试基础

李利敏 · 5066人观看 · 714分钟

系统测试基础

软件工程，软件质量，系统测试流程，方法，软件测试专业术语，测试用例设计，测试报告，缺陷管理

加入收藏

微服务接口和UI自动化

徐小兵 · 9670人观看 · 168分钟

微服务接口和UI自动化

将各类自动化测试技术结合WoniuTicket项目实战演练，强化对自动化测试技术的综合运用

接口测试设计与实施，回归测试，冒烟测试，缺陷验证，Python+UI自动化实战，测试框架应用实战

加入收藏

DirectX游戏开发

邓强 · 2394人观看 · 190分钟

DirectX游戏开发

综合性地将C++的知识运用进来

本课程主要利用C++完成一个游戏开发任务，结合DirectX提供的接口进行操作

加入收藏

网页布局实战

徐朝波 · 5528人观看 · 3138分钟

网页布局实战

1. 熟练掌握HTML5、CSS3、Less、Sass，独立实现基础页面布局、页面性能优化、考虑用户性能体验 2. 熟练运用HTML+CSS特性完成页面布局、掌握常见的兼容性处理，浮动布局和弹性布局的对比和使用常见 3. 熟练应用CSS3技术，动画、弹性盒模型设计网页，熟练的完成页面动画设计，并优化网页的布局

网页核心布局标签、网页样式设计、导航样式、产品列表、选择器、雪碧图、浮动布局、标准盒子模型、表单样式、字体图标、样式继承、样式权重计算

加入收藏

分类与聚类算法

邓强 · 1024人观看 · 508分钟

分类与聚类算法

SKLearn计算库、K-Means聚类分析、KNN分类、SVM支持向量机

K-Means聚类分析、KNN-K近邻算法、模型评估与调优、SVM支持向量机分类算法、Sklearn科学计算库的使用、鸢尾花分类项目实战、其他的经典机器学习算法介绍

加入收藏

uniapp框架

江岚 · 11463人观看 · 269分钟

uniapp框架

uni-app：开发工具、基本使用、vuex、地图功能

微信小程序：基本介绍、开发工具、wxml和wxss、全局配置和页面配置、自定义组件、本地存储、网络请求、导航、云开发、小程序发布

加入收藏

Java消息队列核心技术与应用实战

吴聪聪 · 2348人观看 · 180分钟

Java消息队列核心技术与应用实战

全程现场编码实验，同步解释关键节点。

以实践，提出问题，解决问题为驱动的课程

加入收藏

基本信息

联系信息

上传资料