分享
大佬 Ilya Sutskever 的神级论文清单
输入“/”快速插入内容
大佬 Ilya Sutskever 的神级论文清单
Ilya Sutskever
,作为深度学习领域的领航者,不仅在学术界树立了里程碑,更通过在谷歌大脑、OpenAI及DeepMind的领导角色,引领着人工智能技术向更加智能、安全的方向迈进。
Sutskever 相信,如果 Carmack 能够深入理解并吸收这些论文的精髓,他将掌握当今科技界(人工智能领域)最为关键的90%的知识。
从研究主题上看,Ilya Sutskever 重点关注 Transformer 架构、循环神经网络(RNN)、长短期记忆网络(LSTM)、神经网络的复杂度、计算机视觉等。
推荐清单地址:
https://arc.net/folder/D0472A20-9C20-4D3F-B145-D2865C0A9FEE
我们一睹为快。
01
Transformer 架构
在 Transformer 架构方面,Ilya 推荐谷歌在 2017 年发表的经典论文《
Attention Is All You Need》
,这是 Transformer 架构的问世之作。Transformer 架构今天已经成为人工智能领域的主流基础架构,特别是它是生成式 AI 模型的核心架构。
论文地址:
https://arxiv.org/abs/1706.03762
Ilya 还推荐了一篇由康奈尔大学副教授 Alexander Rush 等研究者在 2018 年撰写的博客文章 ——《
The Annotated Transformer
。