415.tech
シリコンバレー発、AIとテックの最前線
オントロジーがAIエージェントのガードレールとして復権

オントロジーがAIエージェントのガードレールとして復権

AI Engineer World's Fairにおいて、UC BerkeleyのFrank Coyleは、確率的なLLMに対する論理的なガードレールとして、エージェントシステムにはオントロジー(クラス、プロパティ、関係性の形式モデル)が必要だと主張した。また、Neo4jのCEOであるEmil Eifremは、エンタープライズエージェント向けにビジネスコンセプト、技術メタデータ、実行時トレースからなる3層構造のモデルを提示した。開発上の利点は、schema.org、FOAF、Dublin Core、さらにRDFSやOWLといった既存の語彙がモデルの学習データに含まれていることだ。これにより開発者は、独自のスキーマを考案する代わりに、プロンプトでこれらを指定し、エージェントのループ上でOWL推論エンジンを実行できる。1990年代のセマンティックウェブを頓挫させた保守の課題は未解決のままだが、Prasenjit Sarkarは、エッジケースに直面した際に自身のオントロジーを更新するエージェントが、その状況を変え得ると示唆している。

出典: latent.space

Xでポストメール

OWL axiomはマシンが強制するルールだ。

Frank Coyle, UC Berkeley

なぜ重要か

  • → Ontologiesは確率的なLLMエージェントに決定論的なガードレールを提供し、コストのかかるハルシネーションを防ぐ。
  • → 確立されたウェブボキャブラリー (Schema.org, FOAF, Dublin Core) はすでにLLMのトレーニングデータ内に存在するため、再構築の必要性を排除する。
  • → Neurosymbolic AIは言語表現力と計算可能な構造を結びつけ、より薄く、より保守しやすいシステムを可能にする。
Symbolic AIが復活する