||
今年算是18年博士毕业之后第一次以一个“老人”的身份做的投稿。可能vis game都已经玩过这么多回了,相比于往年的投稿,总体感觉就是能够相对比较好地把握节奏;同时因为参与了组里的多篇投稿,更多的挑战来源于如何高效管理时间、提高效率、努力在各个project中有更多的contribution。
投稿流水账
今年投稿的topic算是酝酿了很久,也是我一直非常有热情的一个方向。从去年投VIS的时候就试图attack,但最后苦于没有找到一个很好的解决方案、当时自己对deep learning积累也还不够,最后只好搁置。但其实内心一直很不情愿就此搁置, 如果能在这个方向上取得突破,我们就很可能成为用深度学习做graph drawing这个方向上的开拓者,这无论如何都将是一件成就感爆棚的事情。所以从去年投稿完之后就一直在断断续续地研究相关的论文。从最开始的GAN到最后聚焦到GNN相关的论文,然后到有一天在和倩雯的讨论中知道GraphRNN这个工作,读完之后大喜,有种黑暗里摸索总算看到一点亮光的感觉。在这之后,尤其要感谢志华。因为我很长一段时间都被各种项目的事情牵扯,志华帮我做了大量的实现工作和初期比对试验,包括我们能想到的各种loss function、input feature、node 顺序、模型架构等等,使得整个项目在圣诞节之前有了一些初步的结果。圣诞节之后开始主要自己动手coding搞模型,然而performance一直达不到期待的那样完美,于是开始逐步从传统的RNN, LSTM转向GraphLSTM, 同时也开始让志华疯狂生成更多更好的训练数据,把GNN背景的小马哥也involve进来。不过好在最后总算还是有一些能拿得出手的结果。希望最后的结果能不辜负所有组员的努力和付出!
调参 vs. 可视化设计
这次投稿严格意义上算是我第一次动手实现deep learning框架并调参。在整个过程中,我从志华、倩雯、小马哥身上学到很多。另一方面,在这之前没有真正大规模做model实现和模型训练,总觉得做deep learning一篇论文两三百行代码,相比于做VAST论文各种可视化设计,动辄上千行代码简直爽太多。但真正做了之后发现在实现model并各种训练调参测试也是非常劳神费力,尤其是在调参的时候,很多时候真是有种炼金术的感觉,各种坑也是谁踩谁知道。一个直观的感受就是:要做出令人叫好的成果,也未必就比做VAST文章的各种可视化设计、各种实现轻松多少。每个方向的研究都有其辛苦的一面、都需要艰苦的付出和持久的积累。
多线程工作
今年除了做我自己的一作论文,我同时也参与多篇组内同学的合作论文,然后时不时还有R&D项目相关的事情。所以我整个投稿期最大的压力和挑战其实主要来源于时间的管理和安排。有时候一天甚至有三四个meeting/discussion。整个投稿期虽然极度紧张,但是也在倒逼自己更高效地安排时间并且提升抗压能力。从另一方面讲,这种多线程下工作也算是对以后找教职当老师的一个提前预热吧。
感谢我的合作者们
最后要感谢下我的合作者们。在今年的一作论文投稿中,志华的快速实现能力确实令我惊叹并且踏实肯干、执行力超强,给了我莫大的帮助;倩文和小马哥对deep learning各类模型有深刻的理解,在模型的选择和调参上给了很多建议;屈老师和Weiwei师兄对研究细节和写作的精准拿捏,都让我获益匪浅。在整个项目的实现过程中,明遥和乔总也给了很多很好的建议;在截稿之前,文超还帮我做着很仔细的proofreading。。。感谢你们的帮助!
另外,也特别感恩所有邀请我参与合作投稿的组里的同学,感谢大家对我的信任,与大家的合作让我有了完全不同以往的投稿体验和历练!
Archiver|手机版|科学网 ( 京ICP备07017567号-12 )
GMT+8, 2024-9-2 01:21
Powered by ScienceNet.cn
Copyright © 2007- 中国科学报社