三元組損失

三元組損失是機器學習算法中的一種損失函數，該損失函數將錨點（anchor）樣本與正（positive）樣本和負（negative）樣本進行比較。具體做法是，將錨點樣本與正樣本之間的距離最小化，將錨點樣本與負樣本之間的距離最大化。 ^[1] ^[2] 2003 年，早期的三元組損失公式（未使用錨點樣本）由 M. Schultze 和 T. Joachims 依照相對比較法提出，將其用於度量學習。 ^[3]

該損失函數可以用歐幾里德距離函數來表示

{\mathcal {L}}\left(A,P,N\right)=\operatorname {max} \left({\|\operatorname {f} \left(A\right)-\operatorname {f} \left(P\right)\|}^{2}-{\|\operatorname {f} \left(A\right)-\operatorname {f} \left(N\right)\|}^{2}+\alpha ,0\right)

其中

A

是一個錨點樣本，

P

是與

A

同類的正樣本,

N

是與

A

不同類別的負樣本,

\alpha

是正負樣本對之間的鬆弛邊距，

\operatorname {f}

是嵌入向量。

參見[編輯]

孿生神經網絡
t-分布隨機相鄰嵌入
學習排名
相似性學習

參考[編輯]

^ Chechik, G.; Sharma, V.; Shalit, U.; Bengio, S. Large Scale Online Learning of Image Similarity Through Ranking (PDF). Journal of Machine Learning Research. 2010, 11: 1109–1135.
^ Schroff, F.; Kalenichenko, D.; Philbin, J. FaceNet: A unified embedding for face recognition and clustering. 2015 IEEE Conference on Computer Vision and Pattern Recognition (CVPR). June 2015: 815–823. ISBN 978-1-4673-6964-0. arXiv:1503.03832 . doi:10.1109/CVPR.2015.7298682.
^ Schultz, M.; Joachims, T. Learning a distance metric from relative comparisons (PDF). Advances in Neural Information Processing Systems. 2004, 16: 41–48 [2021-09-08]. （原始內容存檔 (PDF)於2020-10-28）.

[1] Chechik, G.; Sharma, V.; Shalit, U.; Bengio, S. Large Scale Online Learning of Image Similarity Through Ranking (PDF). Journal of Machine Learning Research. 2010, 11: 1109–1135.

[2] Schroff, F.; Kalenichenko, D.; Philbin, J. FaceNet: A unified embedding for face recognition and clustering. 2015 IEEE Conference on Computer Vision and Pattern Recognition (CVPR). June 2015: 815–823. ISBN 978-1-4673-6964-0. arXiv:1503.03832 . doi:10.1109/CVPR.2015.7298682.

[SchultzJoachims-3] Schultz, M.; Joachims, T. Learning a distance metric from relative comparisons (PDF). Advances in Neural Information Processing Systems. 2004, 16: 41–48 [2021-09-08]. （原始內容存檔 (PDF)於2020-10-28）.

[1]

[2]

[3]