不要想的太过复杂，就只有随机数生成的三个矩阵，原始输入已经通过矩阵相乘关联在三个随机数矩阵中，再通过一些代数游戏得到每个token对于整体输入序列的注意力权重矩阵，再和另外一个随机数矩阵进行线性的代数变化即可。
反向传播更新的是这三个矩阵的权重，三个矩阵的维度设计也是为了符合线性代数的运算。
总之这个就是一个巧妙的线性代数游戏，没有什么复杂的逻辑问题。
。
代码：
为什么这次以色列打伊朗，网上声讨的人少了，反而都是嘲笑调侃伊朗？
伊朗和以色列为什么此时爆发冲突？背后有哪些深层原因？
如何评价字节跳动开源的 HTTP 框架 Hertz ？
如何看待雷军宣传把8.8英寸平板装口袋里，毫无压力？
如何评价前端框架 Solid?
阿里网盘为什么没有动静了？
能分享一下你写过的rust项目吗？
MacBook的诱惑在哪里？
Go 语言 Web 应用开发框架，Iris、Gin、Echo，哪一个更适合大型项目？
飞天茅台散瓶批发价跌破 2000 元，背后什么原因？收藏茅台还能增值吗？
这一轮以色列和伊朗的冲突谁会笑到最后？最终会如何收场？
055一打一能不能打过阿利伯克？
cloudflare的1.1.1.1和warp有什么区别？
如果全球都停止出口粮食，中国能否自给自足？
你和你老婆是怎么认识的？
空战的时候可不可以先击落预警机?
女孩子第一次穿高跟鞋是什么体验？
开战斗机从上海到北京要多久，那是一种什么样的体验？
性在婚姻生活中真的重要吗?
异性同办公室久了会不会日久生情？
在工作中，你都遇见过哪些可笑的形式主义？
飞机这么多按钮都要一个个地打开，为什么不能一键启动？
罗马仕宣布召回超 49 万台充电宝，极端场景下可能有燃烧风险，有多危险？为何有安全隐患的产品能够上市？
谷歌云服务宕机导致 OpenAI、Shopify 等服务中断，此次宕机的具体技术原因是什么？
你在健身房发生过什么有趣的事情?
国家统计局表示，青年人失业率连续 3 个月下降，现在找工作实际情况如何？
真的有这种又苗条身材又爆炸的么？
请问各位程序员，是我的思维方式有错误吗？
什么是去了江西才知道的?
