ヘルスケア・ライフサイエンス業界のすべてのリーダーが問うべきエージェント型AIに関する10の問い

ヘルスケア・ライフサイエンス業界のリーダー企業は、AI導入の新たなフェーズを迎えています。このテクノロジーは、単なる質問への回答、書き取り、タスクの調整から、自然言語のプロンプトを使用して複雑なワークフローをオーケストレーションするものへと移行しています。

この実質的な移行は重要です。 

AIエージェントは、コンテキストを収集し、手順を推論し、ツールを呼び出し、アクションを推奨し、プロセス全体にわたって従業員と連携して作業できます。この業界では、これにより、チームは研究を加速させ、業務効率を向上させ、臨床、商用、規制関連の業務全体でよりタイムリーな意思決定をサポートできるようになります。

しかし同時に、リスクも高まります。

AIがコンテンツの生成からアクションの実行へと移行するにつれて、意思決定者にはより高いレベルの確実性が求められます。エージェントがどのデータにアクセスできるか、どのようなアクションを実行できるか、出力がどのようにガバナンスされているか、そしてチームが結果をどのように監査できるかを把握する必要があります。また、コスト、インフラストラクチャの要件、長期的な柔軟性についても明確に理解する必要があります。
 

エージェント型AIに可能性があるかどうかは問題ではありません。可能性はあります。問うべきは、組織のデータ、ガバナンス、コラボレーションの戦略において受け入れる準備ができているかどうかです。

ヘルスケア・ライフサイエンス組織がエージェント型AIを本番環境に移行する前に、経営幹部は以下の10の質問を投げかける必要があります。

1.エージェント型AIにとって最適なワークフローは何か？そのインパクトの測定方法は？

すべてのプロセスにAIエージェントが必要なわけではありません。最も有力な候補となるのは多くの場合、複雑で反復的である、手作業が多い、データ集約型である、あるいは複数のシステムやチームにまたがるワークフローです。

ライフサイエンス分野では、エージェント型AIは、臨床試験の実現可能性、治験実施施設の選定、プロトコル分析、規制コンテンツのワークフロー、安全性ケースのトリアージ、医療情報への対応、商用現場のインサイト、サプライチェーン計画などをサポートできます。

ヘルスケア分野では、エージェント型AIは、事前の認可、ケアマネジメント、収益サイクル業務、品質レポート、プロバイダーネットワーク分析、加入者エンゲージメント、患者アクセスなどをサポートできます。

リーダーは、目新しさではなく価値を基準として始める必要があります。まずは、エージェント型AIが測定可能な成果を改善できる領域を検討します。具体的には以下があります。

• サイクルタイムの短縮

• 生産性の向上

• 精度の向上

• 管理負担の軽減

• 研究や商用化の加速

• 患者、加入者、医療提供者、治験責任医師経験の向上

明確なメトリクスは、AIの取り組みの焦点を絞るのに役立ちます。また、どのパイロットをスケールさせ、どれを中止すべきかをリーダーが判断するのにも役立ちます。

2.エージェント型AIが大規模かつ効果的に機能するために必要な、信頼できるデータ基盤があるか？

エージェント型AIの出力の品質は、コンテキストに大きく依存します。データが断片化している、古い、あるいはガバナンスが困難であり、セマンティックな理解、オントロジー、メタデータが欠如している場合、AIエージェントは重要な情報を見落としたり、有用に見えてもアクションに必要なコンテキストが欠けている回答を生成したりする可能性があります。

これはこの業界における現実の課題です。重要なデータは多くの場合、電子健康記録、保険金請求、検査、画像、臨床試験システム、安全性システム、商用アプリケーション、サプライチェーン、パートナー環境など、幅広いソースにまたがっています。構造化データもあれば、半構造化データもあります。さらに、メモ、ドキュメント、画像、トランスクリプト、科学的コンテンツなど、その多くは非構造化データです。

経営幹部は、自社のデータ基盤がこれらのソースをガバナンスの効いた方法で統合できるかどうかを問う必要があります。エージェント型AIは、単発の抽出、重複したパイプライン、分断されたデータマートでは効率的にスケールできません。組織全体にわたって、信頼性の高いデータにセキュアにアクセスできる必要があります。

チーム、クラウド、リージョン間でデータを一元化、統合、分析、共有できるプラットフォームは、組織にメリットを提供します。エージェント型AIにとって、この基盤は重要です。なぜなら、エージェントは通常、プロンプトとモデル以上のものを必要とするからです。適切なユーザーとワークフローのために、適切なタイミングで適切なデータへのガバナンスの効いたアクセスとコンテキスト上の意味が提供されたときに、エージェントは最高のパフォーマンスを発揮します。

3.AIエージェントがアクセス、生成、推奨、実行できる内容について、ガバナンスをどのように確保するか？

AIが自律的に行動し始めると、ガバナンスも変化します。

アナリティクスの場合、ガバナンスは多くの場合、誰がレポートやデータセットにアクセスできるかに焦点を当てます。生成AIの場合、ガバナンスの範囲はプロンプト、モデルの出力、および使用方法にまで拡大します。エージェント型AIの場合、アクションもその対象に含める必要があります。

意思決定者が問うべき重要な質問は、以下のとおりです。

• エージェントはどのシステムにアクセスできるか？

• どのようなデータを取得できるか？

• どのような推奨事項を提示できるか？

• どのステップで人間のレビューが必要か？

• どのアクションが制限されているか？

• チームはどのようにアクティビティを監視するか？

• 組織は後でどのように決定を監査するか？

これらの質問は、単なる理論上の話ではありません。チームが自信を持ってエージェント型AIをスケールできるかどうかを左右するものです。

ヘルスケア・ライフサイエンス組織は、膨大な量の保護対象医療情報、研究データ、商用データ、知的財産を管理しています。組織は、パイロットが成功した後にガバナンスを追加するのではなく、最初からエージェント型AIのワークフローにガバナンスを組み込む必要があります。

その目的は、イノベーションを遅らせることではありません。強力なガバナンスは、チームに明確なルールを提供し、不確実性を減らし、ビジネスユーザーがより安全にAIを導入できるようにします。

4.AIエージェントは、新たなサイロを生み出すことなく、組織全体でデータをセキュアに使用できるか？

多くのエージェント型AIのパイロットは迅速に開始されますが、新たな複雑さを生み出します。チームはツールを選択し、データを別の環境にコピーして、限定的なワークフローを実証します。このアプローチは実験には有効です。しかし、データ移動やガバナンスの作業が増加し、機密データを保護すべき場所が増える可能性もあります。

意思決定者は、エージェントが分断されたレイヤーを新たに作成することなく、必要なデータにセキュアにアクセスする方法について問う必要があります。

たとえば、臨床業務エージェントは、プロトコル文書、治験実施施設のパフォーマンスメトリクス、登録データ、患者集団のインサイトを必要とする場合があります。商用エージェントは、承認済みのコンテンツ、顧客関係管理データ、市場アクセス情報、現場のインサイトを必要とする場合があります。また、ヘルスケア業務エージェントは、保険金請求、プロバイダー、コールセンター、ケアマネジメントのデータを必要とする場合があります。

これらのワークフローは、システムやチームを横断して実行されます。また、機密データも扱います。そのため、アーキテクチャが重要になります。

強力なエージェント型AI戦略では、データを連携させ、セキュアに保ち、ガバナンスを確保する必要があります。また、チームが重複を減らし、不要なデータ移動を回避し、各ワークフローに必要な情報への制御されたアクセスをエージェントに提供できるようにする必要もあります。

5.ハルシネーションや、誤った、あるいは信頼性の低いエージェントの出力をどのように回避できるか？

ハルシネーションは、生成AIにおける既知のリスクです。エージェント型AIの場合、出力が下流のアクションに影響を与える可能性があるため、このリスクはさらに深刻になります。

リーダーは、エージェントが承認済みの最新かつ関連性の高い情報にどのように基づいて動作し続けるかを問う必要があります。その回答には、モデルの選択以上の内容が含まれている必要があります。具体的には、データ品質、堅牢なセマンティックレイヤー、検索、アクセス制御、ビジネスルール、ワークフローのコンテキスト、人間のレビューを網羅している必要があります。

規制対応チームは、エージェントが承認済みの最新コンテンツを使用することを求めています。臨床業務チームは、最新の臨床試験、治験実施施設、登録データに基づいた推奨事項を必要としています。保険者や医療提供者のチームは、保険契約、補償内容、臨床および業務のコンテキストを反映した出力を必要としています。

より良いグラウンディングは、より良いデータアクセス、コンテキスト、ガバナンスから始まります。AIエージェントは、信頼できるソースから情報を取得し、ロールベースのアクセス制御を尊重し、出力の出所を人間が理解できるように十分な透明性を提供する必要があります。

経営幹部にとっての現実的な疑問はシンプルです。それはすなわち、「組織は、エージェントがどのデータを使用したか、そしてなぜその出力を信頼すべきかを説明できるか？」というものです。

6.本番環境でのプライバシー、セキュリティ、コンプライアンス、監査可能性の準備はできているか？

概念実証は、制御された環境で実行できます。本番環境のAIは、より高い基準を満たす必要があります。

エージェント型AIが実際の業務をサポートする場合、経営幹部は、機密データへのアクセス方法、処理場所、使用されるモデル、出力の保持方法、およびアクティビティの監視方法について、明確な回答を必要とします。ヘルスケア・ライフサイエンス業界では、これにはHIPAA、HITRUST、適正基準（GxP）、HITECH、FedRAMP、規制対象データに関する内部ポリシーに関連する要件が含まれる場合があります。

経営幹部は、組織がワークフロー全体でエージェント型AIのアクティビティを監査できるかどうかを確認する必要があります。これには、プロンプト、データソース、モデルの応答、ツールの呼び出し、ユーザーの承認、および最終的なアクションが含まれます。

監査可能性は信頼を構築します。また、チームがAIワークフローを継続的に改善するのにも役立ちます。何が起こったかを把握できれば、パフォーマンスの検証、リスクの特定、制御の改善、そして成功したパターンのより多くのユースケースへの展開が容易になります。

7.制御可能なAI機能を構築しているか？それとも、長期的な依存関係を生み出しているのか？

多くの組織は、専有データをサードパーティのAIプラットフォームに送信したり、単一のモデルプロバイダーを中心にワークフローを構築したりすることで、迅速に行動しています。これにより、初期の実験を迅速化できます。しかし、戦略的なリスクを生み出す可能性もあります。

組織にとって、専有データは多くの場合、競争上の優位性となります。これには、新規化合物の研究、臨床試験のインサイト、患者集団のパターン、商用戦略、製造インテリジェンス、医療機関や加入者のインサイトが含まれる場合があります。

リーダーは、自社のAIアーキテクチャがその優位性を保護しているかどうかを確認する必要があります。

組織は、適切なタスクに適切なモデルを選択し、ニーズの変化に応じてモデルを変更し、単一のベンダーを中心にデータとAIの戦略を再構築することを回避できる必要があります。また、専有データがどのように使用されるかについての制御を維持する必要があります。

エージェント型AIは、戦略的な柔軟性を高めるべきです。後で変更することが困難になるモデル、プラットフォーム、アーキテクチャに組織をロックインするべきではありません。

8.各AIワークロードの実行前に、コストをどのようにして把握するか？

AIのコストは、特に小規模なパイロットから企業全体での導入へと利用が移行すると、予測が困難になる可能性があります。エージェントは複数のモデルでの呼び出し、データの取得、ツールの呼び出し、マルチステップのワークフローの実行を行う可能性があるため、エージェント型AIの変動性は大きくなります。

経営幹部にとって、コストの透明性は責任あるスケーリングの一部です。

リーダーは、チームがAIワークロードのコストを見積もり、監視し、制御できるかどうかを確認する必要があります。つまり、ワークロードの実行前にコストを把握できるか、プロジェクトやビジネスユニットごとに予算を設定できるか、コストが予想範囲を超える前にワークロードをシャットダウンまたは調整できるかどうかを問う必要があります。

導入が成功すると利用が急速に拡大する可能性があるため、コストガバナンスは重要です。適切な制御がなければ、チームはAIへの投資をビジネス価値に結び付けるのに苦労する可能性があります。

成熟したエージェント型AI戦略には、データガバナンス、セキュリティガバナンス、コストガバナンスが含まれる必要があります。

9.エージェント型AIは、機密データを保護しながらコラボレーションをどのように改善できるのか？

業界での業務はコラボレーションに依存しています。医療提供者、保険者、製薬会社、バイオテクノロジー企業、委託研究組織、学術機関、公衆衛生機関、テクノロジーパートナーは、組織の境界を越えて連携する必要があります。

しかし、データが機密であり、規制対象であり、分散している場合、コラボレーションは困難になる可能性があります。従来のアプローチでは、多くの場合、データのコピー、ファイル転送、カスタム統合、または長いレビューサイクルが必要になります。エージェントがパートナー間で共有されるワークフローをサポートする必要がある場合、エージェント型AIは複雑さを増す可能性があります。

リーダーシップ層は、制御を弱めることなくエージェント型AIがどのようにコラボレーションを改善できるかを確認する必要があります。

異なる研究チームが、機密の知的財産を公開することなく共有データを分析できるか、メディカルチームとコマーシャルチームが、ガバナンスが適用され承認されたコンテンツに基づいて作業できるか、医療提供者や保険者が、患者や加入者のデータを保護しながら、ポピュレーションヘルス、品質指標、ケアギャップについてより効果的に連携できるかを問う必要があります。

エージェント型AIは、コラボレーションと制御の間のトレードオフを強いるべきではありません。適切なアプローチにより、組織は機密情報を保護しながら、ガバナンスが適用されたライブデータを使用して連携できるようになります。

10.チームによるAIインフラストラクチャのメンテナンスは、どの程度必要になるか？

ヘルスケア・ライフサイエンス組織にはAI機能が必要です。すべてのチームがAIインフラストラクチャチームになる必要はありません。

エージェント型AIにおいて、すべてのユースケースでモデルのホスティング、オーケストレーションレイヤー、インフラストラクチャのスケーリング、監視パイプライン、カスタムの機械学習オペレーションをチームが管理しなければならない場合、導入は遅れます。希少な技術人材が、価値の高い業務ではなくメンテナンスに駆り出されることになります。

経営幹部は、組織がどの程度のインフラストラクチャの複雑さを抱え込んでいるかを確認する必要があります。

メンテナンスの負担が少ないアプローチにより、チームは信頼できるデータプロダクトの構築、ドメイン固有のワークフローの設計、ガバナンスの強化、ビジネスユーザーのサポート、成果の測定といった、価値を生み出す業務に集中できるようになります。

このアプローチは、技術的な専門知識と同じくらいドメインの専門知識が重要となるこの業界において、特に重要です。科学者、臨床医、規制の専門家、コマーシャルリーダー、オペレーションチームは、日々の業務でAIを使用するための、セキュアでガバナンスの効いた方法を必要としています。エージェント型AIのメリットを享受するために、AIインフラストラクチャのすべてのレイヤーを理解する必要はありません。

エージェント型AIの責任あるスケーリングに必要なこと

エージェント型AIは、組織の運営方法を根本から変えます。チームがインサイトからアクションへと移行し、手作業を減らし、企業全体で複雑なワークフローを調整するのに役立ちます。

しかし、エージェント型AIのスケールに成功する組織は、モデル自体ではなくモデルの基盤から始めます。

モデルの基盤とは、つまり信頼できるデータです。そして、堅牢なガバナンス、セキュアなコラボレーション、コストの可視性、モデルの柔軟性です。これは一言で言えば、不必要なメンテナンス、財務的負担、ガバナンス上の負担を増やさないインフラストラクチャです。

ここで取り上げた問いは、意思決定者が有望なパイロットプロジェクトと効果的にスケールできるAI戦略を区別するのに役立ちます。

エージェント型AIは、すでにデータを戦略的資産として扱っている組織に恩恵をもたらします。エージェントが、適切な制御と適切なビジネスコンテキストを備えたガバナンスの効いたデータ環境内で機能する場合、チームは業務に求められる信頼を失うことなく、より迅速に行動できるようになります。

エージェント型AIが実際に機能する様子にご興味のある方は、ぜひAccelerate Healthcare & Life Sciencesをご視聴ください。業界のリーダーたちがAIのユースケースを紹介し、Snowflakeのヘルスケア・ライフサイエンス業界向けAIデータクラウドを活用して医療成果の向上をどのように実現しているかについて語ります。