为什么我还是无法理解transformer？
- 作者：admin
- 发表时间：2025-06-25 16:15:13
不要想的太过复杂，就只有随机数生成的三个矩阵，原始输入已经通过矩阵相乘关联在三个随机数矩阵中，再通过一些代数游戏得到每个token对于整体输入序列的注意力权重矩阵，再和另外一个随机数矩阵进行线性的代数变化即可。
反向传播更新的是这三个矩阵的权重，三个矩阵的维度设计也是为了符合线性代数的运算。
总之这个就是一个巧妙的线性代数游戏，没有什么复杂的逻辑问题。
。
最新文章
-
能否交换一张照片，分享一个让你觉得「仿佛回到了暑***」的瞬间？
-
为什么华为价值2.3W的鸿蒙电脑用的是美国西数的SN740固态硬盘？
-
KVM显示器有哪些？
-
日本真的有些澡堂和温泉是不分男女的吗？有人去过不分男女的那种吗？
-
微软宣布 5 月 28 日开始下架「Microsoft 远程桌面」应用，背后原因有哪些？
-
为什么10年前电脑内存就普遍16GB了，现在还是普遍16GB？
-
如何看待不超过1879元的Mac mini（M4+16/256GB+票），易用性吊打同级其他台式电脑？
-
中国军事力量有希望达到全球第一吗？
-
为什么负荷那么大的腰部力量训练的人不会受伤，长期无载荷久坐的人会出现腰肌劳损？
-
C++ 之父为什么说 Rust 等内存安全语言的安全性并不优于 C++？