本课程重点介绍基于大模型的自然语言处理基础知识、核心技术以及应用方法，并简要介绍传统自然语言处理的相关知识。内容以深入浅出方式展开，对基础知识适当展开回顾，同时及时更新最新研究论文内容，旨在让学生系统地掌握大模型为主的自然语言处理技术，适合于从事该领域研究、工程应用的研究生或相关从业人员。

课程安排：

• 1-18周：玉泉路校区教学楼阶一5，5-7节（13:30-16:10）
• 第4/8/12周周日加课：玉泉路校区教学楼阶二5，5-7节（13:30-16:10）
• 教学日历
• PPT下载 提取码: im2q

[第一部分 基础知识]

01 绪论

• 人人都爱NLP
• Hello，NLP！
• NLP任务概览
• 初识大模型

02 神经网络

• 神经网络原理（MLP）
• 训练神经网络（BP）
• 常见网络结构（RNN/LSTM/GRU）
• Encoder-Decoder架构

03 注意力

• 带注意力的Encoder-Decoder
• 自注意力
• 位置编码
• Transformers

04 嵌入

• 什么是词嵌入
• Word2Vec
• Glove
• 词元Token

练习1 - 从入门到变形

• 手搓异或网络
• PyTorch版异或网络
• NNLM
• Transformer

[第二部分 大语言模型]

05 预训练

• 什么是预训练
• 预训练方法
• 预训练大语言模型

06 提示

• 什么是prompt
• 提示工程
• 提示学习