论文笔记：[ICLR 2020] Tips for prospective and early-stage PhD students

Posted 2021-08-30 刘文巾

作者关于这篇论文的推特：https://twitter.com/alienelf/status/1255044498830352384

论文：Tipsforprospectiveandearly-stagePhDstudents-互联网文档类资源-CSDN下载

1 ML和DL如何入门？

• 阅读已发布的代码有助于了解论文的实际贡献，你可以将其映射回论文中的数学解释。 然后，下次你看到那个数学解释时，你就会确切地知道它在计算和编程代码上意味着什么.
• 自己复现模型代码

2 如何保持跟进最新的研究？

• 每月一次，检查 http://arxiv-sanity.com/上个月的“最近热门”、“热门炒作”和“推荐”标签。 扫描论文标题和摘要，并在此基础上下载论文以供进一步阅读 (~15篇)。
• 完全阅读其中最有趣的（~5篇）并了解其他几篇选出来的文章的最重要的想法。
• 每年聆听约 5 场高质量研讨会/会议的演讲，在感兴趣的领域内获得新想法。 你可以在 youtube（例如，高级研究学院 Institute for Advanced Studies 频道）、https://slideslive.com/、http://videolectures.net/上搜索这些内容。 如果可能，尝试现场观看其中的一些。
• 参加你研究领域中高度相关/高质量的演讲，以结识相关研究人员。
• 订阅相关博客的每周/每月更新。 根据博客的质量和研究兴趣选择博客。 许多公司或大型 ML 研究小组都有博客。
• 与同事交谈并询问他们目前认为什么是重要的。
• 保留一份详细的多文档日志，记录你阅读过的想法和研究，并使用论文组织软件。 Zotero/Mendeley/roam research/Google docs/Microsoft OneNote Folders/Notion/Trello 是你可以使用的一些软件。 Notion 有一点学习曲线，这使得它不理想，但它是我发现的最好的东西，可以同步到多台机器。 Trello 允许你设置一个包含类别列表（例如研究主题、资源）的面板，其中卡片代表子类别（例如工具、数据集、教程）。你还可以创建一个带有readme的 GitHub 存储库，其中包含我感兴趣的研究主题的不同小节（可以将论文、博客文章、与研究相关的库和工具、其他资源等放在主题下）。

3 如何申请PhD

略

4 如何选择PhD导师

略

5 在业界作后去读研究生（进入研究）

略

6 博士期间需要记住的事情

        是否全权负责产生新的研究想法？ 还是导师在其中发挥了重要作用？

        这在很大程度上取决于你的导师、你的研究小组的规模以及你的研究兴趣与导师目标的吻合程度。

        几乎可以肯定的是，你的导师在录取你时会考虑一些他们认为你适合的项目。 但是，如果这与你的职业目标不符，那么你可能会发现自己需要更加独立（尽管你的导师仍然应该是帮助完善你的想法的好资源）。

         在申请过程中与你的潜在导师讨论这个问题 - 这是您你正了解他们期望的唯一途径。 我也认为这取决于导师的指导风格。 与他/她的学生交谈以询问指导风格会有所帮助。

        在开始攻读博士学位之前，希望得到的一条建议是什么？

        不要忘记照顾好自己，包括充足的睡眠、基本的运动、优质的食物以及在需要时寻求心理健康咨询。 预计会有好的和坏的时期。

        拖延是大多数博士的一部分。 寻找可以帮助你缩短拖延时间的方法（锻炼、短途旅行、与朋友聚会、更轻松/紧凑的日程安排……）  

         你所在的小组（不包括教授）在你的学习中扮演了什么角色？

        如果研究相关主题，你可以从他们那里获得帮助或积极与他们讨论以进行头脑风暴。

        如果研究不同的主题，你仍然可以与他们进行头脑风暴，并从不同领域获得一些灵感。

         自己做所有事情与从团队中获得帮助和支持之间的平衡是什么？

        加入一个协作小组是件好事，在那里人们互相帮助（尤其是在截止日期之前）。

        竞争太激烈的环境对心理健康真的没有好处。

        另一方面，一切都自己做，有利于学会更加独立。

         组织、优化和加快研究项目的技巧有哪些？ 如何通过更好的准备来节省时间？

        不需要编写大量代码的艰难方法，因为它可以作为一个功能在网上获得，例如 scikit learn 等完善的库，或者有人有一个很好的 github 存储库。 因此，在线检查可以节省一些时间。

         此外，编写可以重用的模块化代码，作为自己的库可能会非常有帮助。 许多非 CS 学生不经常使用 Git，我认为他们错过了很多。

        记录您的实验设置、结果和对未来实验/想法的想法会非常有帮助，尤其是在团队合作时。

        会议最好的部分是什么？ 你如何充分利用它们？ 有什么要分享的技巧和窍门？

        在海报展板部分上和每个人聊天。去海报展板部分问问题， 与很酷的人一起出去玩，并与他们交谈。  

将注意力放在写作和演讲技巧上，因为它会影响你的研究路径。 Coursera 上提供了有用的写作课程[1]。 另外，看看这篇文章[2]和这个演讲[3]。  

https://www.coursera.org/learn/sciwrite   -[1]

https://www.microsoft.com/en-us/research/academic-program/write-great-research-paper/  -[2]

https://www.youtube.com/watch?v=oSVP1J4Mx_U&t=2476s  -[3]

 如何管理时间？

https://blog.usejournal.com/calendar-in-stead-of-to-do-lists-9ada86a512dd

7 毕业后在业界求职

• 如果你想进入业界，实习是非常重要的，所以尝试至少做一个。  

• Leetcode 有很大帮助，但在某些情况下，您的 GitHub 的帮助会更大。 业界不会经常查看您的论文产出（研究岗除外）。 相反，他们更愿意询问如何将您的论文转化成产品。

• 在硅谷和类似的地方，通常第一轮面试 由软件工程师组织，因此 leetcode 起着重要作用。

• 开源贡献很重要