Navigation

    Gpushare.com

    • Register
    • Login
    • Search
    • Popular
    • Categories
    • Recent
    • Tags

    EMNLP-2021评审分数出炉,rebuttal阶段如何力挽狂澜

    顶会期刊
    1
    1
    512
    Loading More Posts
    • Oldest to Newest
    • Newest to Oldest
    • Most Votes
    Reply
    • Reply as topic
    Log in to reply
    This topic has been deleted. Only users with topic management privileges can see it.
    • 1
      151****8705 last edited by 151****8705

      有次ACL开奖后有朋友吐槽,本来评分相对较高的paper,最后却挂了。笔者看了他rebuttal的内容,终于明白原因。学术论文的rebuttal,相对于论文的写作而言,常常被大家所忽视,也是平时参考意见比较少的。最近EMNLP rebuttal,所以笔者觉得迫切需要再推一次相关的经验帖。

      01

      —

      首先说下什么是rebuttal。在计算机领域,会议论文相对期刊论文更受到重视,而rebuttal是会议论文审稿过程中的一个关键环节。rebuttal之前,reviewer 各自独立提交审稿意见,包括对作者的问题,在收回作者 rebuttal之后,将进行 discussion 环节,这时其他reviewer意见、作者 rebuttal 信息均会开放给所有reviewer。最后reviewer需更新自己最终评分和意见,提分和降分的情况都是可能的。所以,优秀的rebuttal能力力挽狂澜,而不好的rebuttal则有可能让论文前功尽弃。

      Rebuttal不是吵架,不要给评委挑刺。千万不能写一些非常主观的话,要有理有据,比如reviewer觉得涨点幅度不够,你和他说“It is a huge improvement”,那就是浪费字数,要和SOTA的涨幅去比较。

      02

      —

      如果分数高,不要掉以轻心,因为之前某顶会出现过这种情况,很多刚开始分数高的最后都悲剧了。据说是因为组委会打击关系户,但这样很多paper也被误伤了。所以rebuttal的过程要认真对待,起码让AC看到你们的态度。对于分低的,就要权衡一下,如果好好写rebuttal,提分的上限是多少,能不能过borderline。通过大力出奇迹,怒怼reviewer,来争取AC的注意的情况也有,但毕竟少数。可以看看是否最近有其他的意向会议,值得弃稿重投。如果reviewer的意见确实有道理,就可以把时间用来再好好打磨打磨paper。

      对于分数处于borderline的paper,就尤其要重视rebuttal阶段了。要明白reviewer会有哪几种情况,知己知彼。之前帮忙review过ACL和KDD的paper,KDD没有rebuttal,是根据originality/novelty、techinical quality、impact/outreach、clarity of presentation、reproducibility综合打分给结果,而ACL会需要填许多开放性问题:paper about、contributions、main strengths and weakness、reasons to accept、reasons to reject等, 不过一般都会要求填reviewer confidence、experience之类的。所以其实我们写rebuttal的时候,看到一个reviewer给的question,要换位思考,更多地去分析这个reviewer的特征和态度。

      03

      —

      如果是小同行,一般会努力发现paper中的不足,这个reviewer的评分也相对更重要。对于认认真真回复,给了很多实质性意见的,一定要认真对待。对于他指出的缺点,不能敷衍。如果真的是自己的问题,要虚心接受,然后指出更正或改进的方法,新增实验(这个要根据规定,有的会议rebuttal不允许加实验,而有的不太说得清,可以加一些会议rebuttal群看大家怎么做),不行的话,也可以对limitation进行讨论。

      如果reviewer意见是有问题的,要有力反击,做到有理有据、不卑不亢。其实这些小同行reviewer一开始看到你的paper,就大概心理有数给不给过了。但你的态度更多的是给AC和其他在这个领域不太权威reviewer看的,所以无论怎样都要好好解决这一类reviewer的指出的问题。

      如果reviewer表示赞赏并提出一些新的idea的,他就是很支持你的。需要做的就是表示认可、达成一致。您说的我们能明白,并且觉得很有道理,会作为以后的改进方向。

      另一种reviewer是不太了解这个方向的。但大家都是做研究的,他往往会从paper的逻辑性、实验验证的严谨性来分析。这种reviewer出于自保心态,一般给一些中等的分数,正面反面都说一说,没有什么实质性的建议。那就需要争取让他支持自己,可以用其他权威reviewer的正面评价来说服他。

      因为需要填很多信息,这些reviewer可能会提一些吹毛求疵的意见,然后说还得补这样那样的实验,给一个能过关的review。这个时候,就需要明确指出为什么对这个任务,这些实验是无关紧要的,哪些疑问是paper里面已经解释过的。这样AC和其他reviewer看了也会有一个好的把控。

      不过要注意,如果这类reviewer明显对任务都没搞清楚,先别急着生气,很可能论文的Intro部分还是要好好修改。因为论文的目的在于给别人普及你的方法和贡献,需要让别人容易理解。这种情况下,在rebuttal的时候,也要尽量腾出字数,先对论文的动机和创新点做一个好好的总结提炼。

      04

      —

      明确了如何逐个击破,接下来就是要列清楚自己的点。最好先感谢各位reviewer,然后按reviewer和question清晰地列出来,比如下面的模板:
      Thanks for the valuable comments. Our replies are as follows:

      Reviewer#1:
      Q1:
      A1:
      Q2:
      A2:
      Reviewer#2:
      …

      不过rebuttal都有字数限制,要么按词要么按字符。所以能简写的尽量简写,按字算的多用缩写。这次是按词,那就要减少空格,多用括号、逗号等连接两个单词。实在不行,可以将reviewer的问题归为几类来回答,或只回答关键问题。

      1 Reply Last reply Reply Quote 2
      • First post
        Last post