当前位置:当前位置: 首页 >
为什么我还是无法理解transformer?
文章出处:网络 浏览次数:发表时间:2025-06-24 21:10:11
不要想的太过复杂,就只有随机数生成的三个矩阵,原始输入已经通过矩阵相乘关联在三个随机数矩阵中,再通过一些代数游戏得到每个token对于整体输入序列的注意力权重矩阵,再和另外一个随机数矩阵进行线性的代数变化即可。
反向传播更新的是这三个矩阵的权重,三个矩阵的维度设计也是为了符合线性代数的运算。
总之这个就是一个巧妙的线性代数游戏,没有什么复杂的逻辑问题。
。
同类文章排行
- 不管黑客用了多少跳板,最终是不是可以通过网络运营商找出真实 IP?
- cloudflare的1.1.1.1和warp有什么区别?
- 前端如何设计网页?
- 如果 J***a 有 goroutine ,你們還會用 golang 嗎 ?
- 大家猜猜伊朗的结局如何?
- 电脑有64G的物理内存(DDR5 5200),完全够用了,可以关闭系统的虚拟内存吗?
- 如何看待alist被转手出售***?
- 我是新手想养鱼,预算不超过200。有什么好的建议或者禁忌吗。?
- 现在的中国打的过美国吗?
- 如何看待苹果在 WWDC25 发布的 Foundation 模型框架,它将为开发者和用户带来哪些改变?
最新资讯文章
- Gemini 2.5 Flash 和Pro稳定版上线,和之前版本相比,在性能和应用场景上有哪些提升?
- 你卡过最厉害的bug是什么?
- 为什么鸿蒙PC要排斥Linux生态?
- 男朋友因为打游戏骗我去睡觉被我识破,然后我提了分手,他同意了,问问男孩子们他怎么想的?
- 儿子抑郁四年左右了,他的未来该怎么办?
- 工控软件有什么开源项目?
- 匿名说一下你最近的烦恼吧?
- 如何看待伊朗议员沙赫里亚里: 我们恳求最高领袖批准使用核武器?
- 花旗预测未来几季金价将回落至每盎司 3000 美元以下,这其中有哪些相关依据?
- 2025年了 Rust前景如何?
- 公立医生帮联系民营救护车,800 公里收费 2.8 万元,收费合理吗?救护车收费标准是什么?
- 空调排行榜前十名,推荐哪个牌子?
- 做好的flask项目怎么部署到服务器,使用公网ip可访问?
- 如何看待机器之心重测高考数学全卷,Gemini夺冠,豆包DeepSeek并列第二?
- 想做一个专门养黑壳虾的鱼缸,有什么建议?
- 大部分语言都用尖括号<>表示泛型,为什么golang要标新立异用中括号?
- 如何看待伊朗媒体称「今晚将发生世界铭记的大事」?可能是什么?
- 苹果发布了 macOS 26 开发者预览版 Beta 更新,这次更新带来了哪些新功能和改进?
- Gemini 2.5 Flash 和Pro稳定版上线,和之前版本相比,在性能和应用场景上有哪些提升?
- 狗头萝莉究竟做错了什么?





