猛烈なスピードで進化を続けているAIが、人間の意図に反した振る舞いをしたり人間の指示を無視したりすることが確認されています。まだ実験的な環境の中で観察された事象ではありますが、映画やドラマのようにAIが暴走して人間の脅威になりえることが技術的に実証されたと言えるでしょう。特に、自律的に目標や計画を定めて人間の代わりに業務を遂行するAIエージェントが普及すると、これまでは想像に過ぎなかったことが現実に変わるかもしれません。
このようなAIエージェントの暴走を防いで、ビジネス価値を生み出すための良き相棒になってもらうために、TQMとAIを組み合わせてリスクマネジメントすることが有効だとリスク職人K.Mishimaは考えています。
もっとも重要なポイントは”目的”の扱い方です。TQMでは人間の意思で定めた目的に対して、それを達成するための目標設定や計画立案を進めます。目的を達成するための目標設定や計画立案を自律的に行ってタスク実行するAIエージェントは、業務効率化や人手不足対策の強力な解決策になるでしょう。この際に、AIエージェントが認識している目的が勝手に変更されてしまわないように、目的に相当するデータを定義して監視し必要に応じて修正することが必要です。
次に、TQMでは目的を達成することに適した組織の構造と役割を設計し、品質向上やコンプライアンス確保のために組織の仕組みを標準化することを目指します。目的達成のためにAIエージェントの力を借りる場合は、AIエージェントのシステム構造にセーフティ＆セキュリティの技術的対策を標準的に組み込むことが必要です。例えば、コンテンツフィルターの標準装備、セキュリティ境界設定やアクセス認証方式等のセキュリティ標準定義が挙げられます。
そして、人間がTQM活動を通じて目的達成を左右する不確かさに対応する際に、AIの動作をAIで評価するLLM as a Judgeを活用することにより、過去の知見に基づくリスク評価はAIで自動化して人間は創造的な活動に注力することが可能になります。
