Fast Abstractive Summarization-RL 논문 리뷰

Fast Abstractive Summarization-RL (Chen and Bansal et al., 2018, ACL)

📄Paper : Fase Abstractive Summarization with Reinforce-Selected Sentence Rewriting

강화 학습을 사용하여 Extractive Abstractive model을 연결한 end-to-end 프레임워크

word-sentence hierarchical framework
→ Sentence level의 extract를 수행한 후, word-level의 rewrite 수행

💡 Contribution 정리

1. sentence-level policy gradient method (RL)

sentence-level의 Extractor와 word-level의 Abstractor를 연결함으로써

word-sentence hierarchy 프레임워크 구현

→ 언어 구조를 모델링하는 데 효과적이며, 병렬화 (parallel decoding) 를 가능하게 함

2. 모델 속도 개선

extract와 rewrite이 병렬적으로 동작하는 parallel decoding로 인해 모델 속도 개선
inference speed 10-20배 개선, training speed 4배 개선

🌱 세미나 자료

출처 : 나