今天看了Umar Jami的学习经验,干货满满。尤其是结合新时代基于AI辅助学习很有见解。
【【GPU Mode】CUDA、Triton、Flash Attention的一些学习经验| l】 https://www.bilibili.com/video/BV1C2ddY5E5N/?share_source=copy_web&vd_source=afbf8b20dbc63173f95b2d83f262a108
他反复强调学习的目标性是保证在当今这个信息海洋不迷失的关键。他有腔调要给你自己的学习设定一定的挑战。比如,少看别人的tutorial,尽量直接看论文。即使一一篇你完全不懂的论文,从头到尾读下来,也能帮你梳理基本的思维框架。
关于代码的学习,以flash attention为例,如果你不理解它,那你至少要把它运行了,然后泡一下。此外,在学习的过程中,一定要清楚你的初衷,过多的学习会让你在信息海洋中迷失。
建议从头开始阅读论文
他也提到了active learning这个概念。
另外,在学习的过程中,还有一点需要思考,那就是接下来学什么。他给的建议就是:
* 首先基于兴趣
* 其次保持连续性
* 基于LLM,你的学习速度应该会很快
面对信息的海洋,我们也需要不断接受信息。这就需要你有两种模式,一面接受噪音,一面保持专注,你需要在这两者间切换。
另外,他强调了cursor这类工具的意义,他能帮助你很快的完成目标,也能帮助你理解一些知识,但是,过度的使用可能会让你少了一些思考的乐趣。
最后,他强调了他学习的逻辑。
信心来源于做挑战的事情,而做挑战的事情需要你学习,在学习的过程中保持很强的目的性,以完成目标为导向,这样,你才能更好的学习。最后,他推荐了cuda mode的leaderboard。