ブログ

極めて重要な局面において、単に答えを出すこと以上に「どのようにしてその結論に至ったか」を示すことがなぜ重要なのかを解説します。

今月初め、NASAの「アルテミスII」ミッションにおいて4人の宇宙飛行士が月を周回し、地球から25万2757マイル（約40万6770キロメートル）という記録的な距離を飛行した後、10日間の旅を終えて無事に着水しました。

200名以上の専門家が、数千ものデータポイントをリアルタイムで監視していました。スラスターを15秒間噴射することから進路修正に至るまで、あらゆる判断は計算・記録され、その経緯を後から検証できるものでした。こうした重要な判断を、「ブラックボックス化」したAIに委ねるようなことはしないはずです。

Image Credit: NASA

だからこそ、「説明可能なAI（Explainable AI）」が必要なのです。これは単に答えを提示するだけでなく、その結論に至ったプロセスまでを示してくれるモデルです。医療の現場であれば、医師はなぜスキャン画像に異常が指摘されたのかを理解できます。金融の分野では、融資の申請者がなぜ却下されたのかを知ることができます。採用の場面では、採用担当者が、選考ツールによって不適切な理由で候補者が排除されていないかを確認することが可能です。

AIの能力が向上するにつれ、求められるのは単により精度の高い予測だけではありません。信頼でき、検証可能で、かつ説明のできる予測が求められているのです。

「多く」ではなく「少なく」消費する推論の力

タフツ大学の研究チームが、ニューラルネットワークと段階的な論理推論を組み合わせた「ニューロ・シンボリックAI（Neuro-symbolic AI）」システムにおいて画期的な成果を発表しました。このシステムは、人間と同じように問題をいくつかのステップに分解して処理します。その結果、複雑な計画タスクにおいて95%の精度を達成（標準的なモデルの34%と比較して大幅な向上）しながら、エネルギー消費量はわずか1%に抑えることに成功しました。

これは、説明可能なAIが実務においてどのような価値をもたらすかを示す具体的な一例です。単に解釈可能であるだけでなく、「推測」ではなく「推論」を行うため、より効率的な運用が可能になります。

おすすめの1冊：キャシー・オニール著『あなたを支配し、社会を破壊する、AI・ビッグデータの罠（原題：Weapons of Math Destruction）』

金融やテクノロジー業界で活躍した数学者であるオニール氏は、中身の不透明なアルゴリズムがどのように教師を評価し、履歴書を選別し、保険料率を設定し、さらには刑事判決にまで影響を与えているかを追跡しています。そして、それらのアルゴリズムが、本来排除すべきはずの「偏見（バイアス）」をむしろ助長してしまっているケースが少なくないと指摘します。

本書は、「説明可能性」という言葉を一度も使うことなく、その重要性を強く訴えかけています。モデルがどのように意思決定を行っているかが見えなければ、その決定に異議を唱えることはできません。 そして異議を唱える手段がなければ、その決定によって最も深刻な影響を受ける人々は、救済を求める術を失ってしまうのです。

KNIMEによる説明可能なAI（XAI）の構築・データガバナンスに関するお問い合わせ

KNIMEの特徴である「視覚的なワークフロー（ビジュアルプログラミング）」は、データ加工からAIの予測にいたるまでの全プロセスを可視化し、ブラックボックス化を完全に防ぎます。説明可能なAIモデルの構築や、企業の厳格なデータガバナンス管理についてのご相談、デモンストレーションのご要望など、お気軽にお問い合わせください。