Skip to content

Entity-Relation Distribution aware Negative Sampling for Knowledge Graph Embedding #193

@koyus

Description

@koyus

一言でいうと

Entity-Relationペアに同じ数のネガティブサンプルを割り当てることの影響を調査し、新しいnegative sampling手法を提案

著者/所属機関

Naimeng Yao, Qing Liu, Yi Yang, Weihua Li, and Quan Bai

  • University of Tasmania, Hobart, Australia
  • Data61, CSIRO, Hobart, Australia
  • Hefei University of Technology, Hefei, China
  • Auckland University of Technology, Auckland, New Zealand

DOI

https://doi.org/10.1007/978-3-031-47240-4_13

会議名(ジャーナル名)

The 22nd International Semantic Web Conference (ISWC2023)

トラック

Research Track

動機

Entity-Relationペアの分布はロングテールであることが多く、各Entity-Relationペアに同じ数のネガティブサンプルを割り当てることは問題。

手法

negative sampleの数の、学習への影響を調査。
調査に基づき、様々な数のnegative sample を割り当てる、 Entity-Relation 分布を意識したネ
ガティブサンプリング手法を提案。

背景

これまでの negative sampling の研究は、不均衡な分布の ER ペアに同じ数 の negative samples を割り当てる効果を検討しておらず 、 false negative samples を最小化しながら質の高い negative samples を生成する課題に取り組んでいない。

結果

従来の KGE および NN-based KGE モデルで試験して検証。
提案手法は SOTA より優。

考察

実験結果から、 NN-based モデルにおいては、グローバルな特徴の組み込みが訓練プロセスにおける negative sample の有効性に影響。

課題

NNベースモデルへのアプローチの有効性を高める方法をさらに探求。

読んだ範囲

斜め読み程度

Metadata

Metadata

Assignees

No one assigned

    Labels

    Type

    No type

    Projects

    No projects

    Milestone

    No milestone

    Relationships

    None yet

    Development

    No branches or pull requests

    Issue actions