SORBET: a Siamese Network for Ontology Embeddings Using a Distance-based Regression Loss and BERT #198
Description
一言でいうと
BERTと距離ベースの回帰損失を使用してオントロジーの埋め込みを行うSiameseネットワークであるSORBET
著者/所属機関
著者名, 著者名, ...
- LAMA-WeST Lab, Departement of Computer Engineering and Software Engineering, Polytechnique Montreal, 2500 Chem. de Polytechnique, Montréal,
QC H3T 1J4, Canada
DOI
会議名(ジャーナル名)
The 22nd International Semantic Web Conference (ISWC2023)
トラック
Research Track
動機
オントロジー関連タスクのための表現学習方法が注目されているが、オントロジーの構造に忠実で意味的に関連性のあるオントロジーの埋め込みを構築するために大規模言語モデルを適応する研究は少ない
手法
概念構造を把握するTree Walkにより作成されたデータからSentence BERTが学習される．SBERTによりエンコードされた埋め込みはオントロジのクラス間の意味的な距離を把握するために，距離ベースの損失関数と組み合わせて計算された
背景
KG埋め込みとオントロジー埋め込みは別々ですべきである
関連研究や新規性など。
結果
複数のオントロジデータセットのサブキャプションタスクで最高性能を達成
考察
回帰損失を用いることでオントロジでの距離を埋め込めている
課題
異なるルールの組み合わせを実験し，オントロジーの概念間の距離推定を改善
読んだ範囲
斜め読み程度