智能的骨架：关注、表征、学习、预测与协同
原作者：视觉即世界 · 微信公众号转载页 总览框架 序言：一个不该被忽视的信号 2017年，Google的研究团队发表了一篇论文，标题是《Attention is All You Need》。这篇论文提出的Transformer架构，在此后七年里彻底重塑了人工智能的面貌。 但很少有人注意到这个标题的另一层含义。 Attention——注意力。在技术上，它是一种让模型动态聚焦最相关信息的机制。但在经济学里，注意力是这个时代最稀缺的资源。在神经科学里，注意力是意识的入口。在哲学里，注意力是主体与世 …
原作者：视觉即世界 · 微信公众号转载页 总览框架 序言：一个不该被忽视的信号 2017年，Google的研究团队发表了一篇论文，标题是《Attention is All You Need》。这篇论文提出的Transformer架构，在此后七年里彻底重塑了人工智能的面貌。 但很少有人注意到这个标题的另一层含义。 Attention——注意力。在技术上，它是一种让模型动态聚焦最相关信息的机制。但在经济学里，注意力是这个时代最稀缺的资源。在神经科学里，注意力是意识的入口。在哲学里，注意力是主体与世 …