推論・推理過程の説明
はじめに
人工知能による「推論」を実現する上で、ナレッジグラフは人間の持つ知識を人工知能に伝えるための重要な手段と考える。この知識に対する探索は「推論」実現における重要技術の一つである。我々は、グラフ構造で表現された知識を再整理することにより、人工知能が自ら生成(考案)した探索・推論の実現を目指す。この再整理した情報に対する探索行動を、「説明性」「解釈性」により評価する。今回のチャレンジでは、ナレッジ推論チャレンジサイトで公開されたRDFのトリプルのみを使用する方針とした。
提案手法
近年、機械学習による自然言語では「双曲空間への埋め込み」[1,6]や「BERT」[2]、「ALBERT」[3]による分散表現（ベクトル化）が注目を集めている。「双曲空間への埋め込み」では木構造データを低次元で精度よく埋め込めると示された。「ALBERT」は汎用自然言語処理として複数の言語処理タスクにおいて性能向上が報告されている。我々は、ナレッジグラフの構造を反映させる整理を期待した「双曲空間への埋め込み」と言語の持つ意味による整理を期待した「ALBERT」による分散表現を比較して「説明性」「解釈性」のある探索行動に向けたナレッジグラフの再整理結果を観察する。
結論
時間の制約上、今回は”ナレッジグラフ構造を反映した分散表現に対する探索行動を、「説明性」「解釈性」により評価する”までの研究に至らなかった。しかしながら、探索・推論過程を可視化ツールの構築が進行中である。次回のナレッジグラフ推論チャレンジでは、「双曲空間の埋め込み」により得られた分散表現に対する「探索・推論過程の可視化ツール」及び「人工知能による探索行動の評価」を発表する計画を立てた。
詳しくはこちらをご覧ください
Reference
- Maximilian Nickel, Douwe Kiela, "Poincaré Embeddings for Learning Hierarchical
Representations", arXiv:1705.08039v2 (2017)
- Jacob Devlin, Ming-Wei Chang, Kenton Lee, Kristina Toutanova, "BERT: Pre-training
of Deep Bidirectional Transformers for Language Understanding", arXiv:1810.04805v2
(2019)
- Zhenzhong Lan, Mingda Chen, Sebastian Goodman, Kevin Gimpel, Piyush Sharma, Radu
Soricut, "ALBERT: A Lite BERT for Self-supervised Learning of Language
Representations", arXiv:1909.11942(2019)
- Leland McInnes, John Healy, James Melville, "UMAP: Uniform Manifold Approximation
and Projection for Dimension Reduction", arXiv:1802.03426v2
- https://www.w3.org/TR/turtle/
"Terse RDF Triple Language",W3C Recommendation 25
February 2014
- Krioukov, Dmitri et al., "Hyperbolic geometry of complex networks", Physical Review 2010
