大模型Llama架构：从理论到实战
第一章 Llama模型概览
第二章 Llama核心算法和原理
-
RMSNorm归一化原理与LLM中的应用 (8:14)
-
RMSNorm归一化原理Python实现 (9:21)
-
SwiGLU激活函数详解及与其他激活函数的对比 (7:07)
-
GLU与SwiGLU算法Python实现及结果可视化 (7:01)
-
Transformer中的位置编码与原理解析 (11:46)
-
基于Python的Transformer位置编码实现与可视化 (10:25)
-
基于PyTorch的Transformer位置编码实现与可视化 (7:37)
-
算法相关的数学概念: 复数与向量的基本操作 (8:18)
-
ROPE位置编码的算法原理剖析 (11:33)
-
深度解析ROPE算法的PyTorch实现 (13:29)
-
广播机制在位置编码中的应用 (9:30)
-
ROPE旋转位置编码应用到序列中的Query和Key (15:44)
第三章 Transformer架构详解
第四章 Llama模型应用
第五章 Llama模型微调与优化
0 comments