Trend-005, An Imitation Learning Approach to Unsupervised Parsing (2019-ACL, 2019.06.05-Arxiv)

■ 논문 정보

• 링크: https://arxiv.org/pdf/1906.02276.pdf
• 저자
• Bowen Li, Lili Mou, Frank Keller
• Institute for Language, Cognition and Computation School of Informatics, University of Edinburgh, UK University of Waterloo, Canada
• 2019.06.05 아카이브 출시
• 2019-ACL short paper 상 받음
• 상을 받기도 했고 제목이 관심이가서 무엇인지 알려고 보았으나 공부한 분야가 아니라서 요약만 보고 느낌을 찾기는 어렵 ㅠ

■ 요약

• 강화학습을 이용하여 semantically oriented objectives을 최적화하는 unsupervised parser에 관심이 증가하고 있다.
• 불행히도 학습된 trees는 실제 syntax trees와 잘 맞지는 않는다.
• 2018년에 Shen이 structured attention mechanism, PRPN을 제시하여 좀 더 좋은 syntactic structures을 제시했다.
• 그러나 이는 ad hoc heuristics에 의존적이다.
• 이러한 불완전함 때문에 imitation learning을 제시한다
• unsupervised parsing이고
• PRPN을 포함하는 syntactic 지식을 Tree-LSTM 모델로 discrete parsing actions과 함께 transfer 한다.
• transfer the syntactic knowledge induced by the PRPN to a Tree-LSTM model with discrete parsing actions.
• policy는  Gumbel Softmax 이다.
• 평가는 Natural Language Inference dataset들로 하였으며 SoTA을 달성했다.
•