保姆级LLM大模型训练营 手写Llama2+ChatGLM微调+DP分布式+Function Call项目实战

ozpgertt

保姆级LLM大模型训练营 手写Llama2+ChatGLM微调+DP分布式+Function Call项目实战








===============课程介绍===============

本课程是【手写AI】系列的王牌训练营，专为希望深入理解大语言模型（LLM）底层原理并掌握实际开发能力的学习者打造。课程以“手写”为核心，拒绝黑箱，带领你从零开始逐行实现Llama2核心组件，并延伸至主流模型（ChatGLM、CodeGeeX）的微调与前沿应用开发，助你成为LLM领域的实战高手。

===============课程目录===============代码.zip
(1)\LLM大模型视频；目录中文件数:0个
(2)\文档；目录中文件数:5个
sft高效微调.pdf
大语言模型（Large Language Model，LLM）综述.pdf
手写llama2源码.pdf
配置服务器的jupyter环境.pdf
面试.pdf
(3)\LLM大模型视频\季康部分；目录中文件数:43个
0-课程大纲简要说明.mp4
1-llm简要概览.mp4
10-1.1_llama2任务简介.mp4
10-1.2_rams数据处理_1.mp4
10-1.2_rams数据处理_2.mp4
10-1.3_lora原理部分介绍.mp4
10-1.4_llama2环境安装以及部分bug排查.mp4
10-1.5_lora训练.mp4
10-1.6_lora推理部分_问题生成.mp4
10-1.7_lora_推理_fewshot回答.mp4
10-1.8_int8量化原理.mp4
10.1.10_qlora的代码.mp4
10.1.9_qlora的nf4.mp4
10.1.9_qlora的双重量化.mp4
2-llm的发展历程_part1.mp4
2-llm的发展历程_part2.mp4
3-llm的训练流程以及常见的概念.mp4
4-llm的常见架构.mp4
5-llm的评价标准.mp4
6-1.1_llm的幻觉定义.mp4
6-1.2幻觉的评估方法.mp4
6-1.3幻觉产生的原因.mp4
6-1.4_llm幻觉的常见的解决方式.mp4
6-1.5_llm的知识编辑.mp4
7-llm自动生成prompts.mp4
8-1.1_Llama2的rmsnorm_原理.mp4
8-1.2_Llama2的rmsnorm_代码.mp4
8-1.3_Llama2的ROPE_原理.mp4
8-1.4_Llama2的ROPE_代码.mp4
8-1.5_Llama2的Attention_原理.mp4
8-1.6_Llama2的Attention_代码.mp4
8-1.6_Llama2的Attention_代码_ev.mp4
8-1.7_Llama2的ffn_原理.mp4
8-1.8_Llama2的ffn_代码.mp4
8-1.9_llama2模型组装.mp4
9-1.1pet原理&dataloader.mp4
9-1.2pet模型和训练验证.mp4
9-1.3ptuningv1原理以及代码.mp4
9-1.4ptuningv2原理.mp4
9-1.5ptuningv2_代码1.mp4
9-1.6ptuningv2_代码2.mp4
9-1.7ptuningv2_代码3.mp4
移动H盘.bat
(4)\LLM大模型视频\布丁部分；目录中文件数:55个
0_课程介绍.mp4
10_prompt_改写任务2.mp4
11_prompt_抽取任务1.mp4
12_prompt_抽取任务2.mp4
13_prompt角色扮演.mp4
14_prompt_数据制作1.mp4
15_prompt_数据制作2.mp4
16_prompt_数据制作3.mp4
17_prompt_数据制作4.mp4
18_deepspeed_概述.mp4
19_deepspeed_配置.mp4
1_模型文件下载方法1.mp4 .mp4
21_deepspeed_demo实例.mp4
22_deepspeed_bert_1.mp4
23_deepspeed_bert_2.mp4
24_deepspeed_bert_3.mp4
25_deepspeed_bert_4.mp4
26_deepspeed_多机多卡配置.mp4
27_chatglm3_新特性.mp4
28_chatglm3_新特2.mp4
29_流式与非流式_chat_generate.mp4
2_模型文件下载方法2.mp4 .mp4
30_glm2的tokenizer.mp4
31_推理、训练、量化占用显存.mp4
32_chatglm全量微调1.mp4
33_chatglm全量微调2-cpu交换技术.mp4
34_chatglm全量微调3-.mp4
35_微调结果评测.mp4
36_微调模型加载1.mp4
37_微调结束后-推理.mp4
38-微调优化.mp4
39-codegeex微调-数据准备.mp4
3_配置服务器jupyter环境.mp4 .mp4
40-codegeex-微调数据处理.mp4
41-codegeex-微调结果评测.mp4
42-function-call概述.mp4
43-function_call概述2.mp4
44-function-call实例1.mp4
45-手写function_call-1.mp4
46-手写function_call-2.mp4
47-streamlit-debug环境配置.mp4
48_function-all_官方代码逐行解读.mp4
49_code-interpreter-概述.mp4
4_vscode远程连接服务器.mp4 .mp4
50_手写code-interpreter.mp4
51_code-interpreter进阶.mp4
52_项目演示.mp4
53_akshare接口.mp4
54_gradio-界面设计.mp4
55_手写项目.mp4
5_vscode远程debug配置.mp4 .mp4
6_prompt_概述.mp4
7_prompt_技巧.mp4
8_prompt_技巧2.mp4
9_prompt_改写任务1.mp4
(5)\LLM大模型视频\季康部分\1_LLM综述；目录中文件数:0个
(6)\LLM大模型视频\季康部分\2_手写llama2源码；目录中文件数:0个
(7)\LLM大模型视频\季康部分\3_高效微调；目录中文件数:0个
(8)\LLM大模型视频\布丁部分\1_环境；目录中文件数:0个
(9)\LLM大模型视频\布丁部分\2_prompt；目录中文件数:0个
(10)\LLM大模型视频\布丁部分\3_微调；目录中文件数:0个
(11)\LLM大模型视频\布丁部分\4_function_call；目录中文件数:0个
(12)\LLM大模型视频\布丁部分\5_code_interpreter；目录中文件数:0个

游客，如果您要查看本帖隐藏内容请回复

yuejunzhi

太棒了！每天学技术每天进步！

hymu

自从用了快捷回复，上六楼再也不费劲儿了！

uhtq78123

爱技术，爱实验，尽在三通IT学院！

wulilinlin

保姆级LLM大模型训练营 手写Llama2+ChatGLM微调+DP分布式+Function Call项目实战

guiguzhi

自从用了快捷回复，上六楼再也不费劲儿了！

nonin

希望有更多朋友一起学习IT技术

xiaohuang651402

太棒了！每天学技术每天进步！

greenleaflee

太棒了！每天学技术每天进步！

houlin476

非常棒的it论坛，每天来学习新技术