Autoplay
Autocomplete
Previous Lesson
Complete and Continue
大模型Llama架构:从理论到实战
大模型Llama架构:从理论到实战
课程简介 (3:19)
课程相关资料 下载
Tommy的AI学习圈-2024
第一章 Llama模型概览
Llama模型背景与预训练细节解析 (7:13)
第二章 Llama核心算法和原理
RMSNorm归一化原理与LLM中的应用 (8:14)
RMSNorm归一化原理Python实现 (9:21)
SwiGLU激活函数详解及与其他激活函数的对比 (7:07)
GLU与SwiGLU算法Python实现及结果可视化 (7:01)
Transformer中的位置编码与原理解析 (11:46)
基于Python的Transformer位置编码实现与可视化 (10:25)
基于PyTorch的Transformer位置编码实现与可视化 (7:37)
算法相关的数学概念: 复数与向量的基本操作 (8:18)
ROPE位置编码的算法原理剖析 (11:33)
深度解析ROPE算法的PyTorch实现 (13:29)
广播机制在位置编码中的应用 (9:30)
ROPE旋转位置编码应用到序列中的Query和Key (15:44)
第三章 Transformer架构详解
Attention机制中的Query/Key/Value计算与原理解析 (9:12)
KV Cache算法原理与优化方法 (10:53)
Transformer架构中的Attention注意力机制解析 (12:33)
Mask机制在Transformer中的作用与实现 (7:45)
Transformer中的Attention注意力机制PyTorch实现与优化 (32:26)
前馈神经网络FFN与算法实现详解 (15:58)
Transformer Block结构与源码详解 (6:09)
Transformer模型结构源码解析 (10:16)
第四章 Llama模型应用
基于PyTorch的文本生成与采样方法详解 (22:59)
Llama模型的类定义与模型并行加载机制 (11:08)
Llama中的generate生成任务的代码实现与调优 (26:08)
基于Prompt的文本生成 text generation 与采样方法详解 (6:01)
Llama模型的对话生成 chat generation代码实现与优化 (11:19)
Llama环境配置与大模型推理实战 (21:36)
基于vLLM的本地化Llama模型服务部署及API服务访问 (10:54)
基于LangChain构建智能chatbot聊天机器人 (22:47)
第五章 Llama模型微调与优化
基于LoRA方式进行Llama模型微调实战 (7:31)
基于Llama-Factory进行LoRA微调实战 (20:18)
基于Llama-Factory进行Llama模型部署与测试 (9:54)
基于Llama-Factory进行Llama模型评估 (7:00)
Teach online with
基于Llama-Factory进行Llama模型评估
Lesson content locked
If you're already enrolled,
you'll need to login
.
Enroll in Course to Unlock