MITチーム、AIモデルに未知の知識を学習させる。

人工知能（AI）の活用は急速に拡大しており、私たちの日常生活や、医療、通信、エネルギーなどの重要産業にますます深く組み込まれています。しかし、大きな力には大きな責任も伴います。AIシステムは時に誤りを犯したり、重大な結果を招きかねない不確かな回答を示したりすることがあります。

なぜこれが重要なのでしょうか？
多くのAIモデルは、高度なものであっても、いわゆる「ハルシネーション」を起こすことがあります。つまり、誤った回答や根拠のない回答を生成するのです。医療診断や自動運転など、判断の重要性が非常に高い分野では、これは壊滅的な結果につながる可能性があります。Themis AIは、予測の不確実性定量化を適用するプラットフォーム「Capsa」を開発しました。Capsaは、AIの出力に含まれる不確実性を、詳細かつ信頼性の高い方法で測定・定量化します。

 どのように機能するのでしょうか？
モデルに不確実性を認識する能力を身に付けさせることで、出力にリスクや信頼性のラベルを付けられるようになります。たとえば、自動運転車が状況を確実に判断できないことを示し、人間による介入を開始することが可能になります。これにより安全性が高まるだけでなく、AIシステムに対するユーザーの信頼も向上します。

結論
MIT（マサチューセッツ工科大学） チーム は、AIの未来が単に知能を高めることだけでなく、より安全かつ公正に機能することにあると示しています。Fortis AIでは、AIが自らの限界について透明性を持って初めて、本当の価値を発揮すると考えています。Capsaのような高度な不確実性定量化ツールを活用すれば、このビジョンを実際の運用に取り入れることができます。