NL-117, Learning to Rank: From Pairwise Approach to Listwise Approach (2007-ICML)
◼ Comment 논문의 시작은 pairwise의 단점을 해결하고자 나타난 것이다. Intro에 pairwise의 몇 가지 문제점이 적혀있다. 그래서 listwise의 접근법의 필요성은 알았으나 어떻게 loss function을 디자인할 것인가? 가 관점이다. 전체적인 플로우를 말하자면 1) query-document 쌍 마다 해당하는 score을 뽑는다. 2) documents에 해당하는 score list를 하나의 permutation probability을 뽑는다. 여기서 permutation의 개념이 나오는데, 이는 주어진 documents의 후보들을 어떻게 순서를 정하냐는 것이다. 즉 d1, d2, d3가 있을 때 (d1,d2,d3)의 probability와 (d1,d3,d2)의 probability가 다른 것이다. 따라서 모든 permutation이 하나의 instance가 되는 것 여기서 permutation probability을 계산할 때, score들을 하나의 함수 태우는데 이 함수는 단조증가여야한다. 논문에서 말하듯이 그냥 exponential을 쓰면 될 거 같고, 결국 그러면 softmax의 개념이 된다. 3) 하지만 이러한 permutation이 너무 많으면 계산이 너무 많기 때문에 top one probability로 대체한다. top one의 개념은 가장 처음 document을 고정하고 이에 따르는 모든 permutation의 probability의 합이다. 4) 이렇게 각 documents에 따른 permutation probability을 예측하고, label에 따른 permutation probability을 예측한다. 이 둘의 distance을 cross entropy로 계산한다. 이 방법이 RankNet보다 성능도 좋고 효율적인 연산이라고 한다. 아무튼 list개념으로 상대적인 관점에서 비교하는 것이기 때문에 ranking이 필요한 방법들에서 한 번 시도해볼만하다고 생각한다. 0. Abstract 이 논문은 learning ...