pytorch api文档:张量的.masked_fill()方法-根据布尔类型的张量填充
pytorch api文档:张量的.bool()方法-将张量中的元素转换为布尔类型
pytorch api文档:torch.triu() 返回上三角矩阵
pytorch api文档:torch.tril() 返回下三角矩阵
大模型原理:因果注意力(掩码注意力)
pytorch api文档:nn.Linear类与nn.Parameter区别
pytorch api文档:nn.Linear类(线性层/全连接层)
大模型原理:实现带可训练权重的自注意力机制-封装类
大模型原理:为什么缩放注意力分数
pytorch api文档:torch.randint()生成整数型随机张量