AIが実験的な利用から専門職の日常業務における利用へと移行する中、AIにはより高い基準が求められるようになってきています。
この状況の下においては、AIの利用目的は一様ではないため、AIを単一の基準で評価することはできません。専門職としての責任を伴う業務で使用されるAIには、一般的な生産性向上ツールとしてのAIよりも、高い基準が求められています。AIのアウトプットが、法的判断、財務開示、規制当局への提出書類、またはクライアントへの助言に影響を及ぼす場面では、「ほぼ正しい」だけでは十分ではないためです。こうした重要な局面においては、アウトプットは正確で、透明性があり、実務上の厳格な検証に耐え得るものでなければなりません。
Fiduciary-Grade AI™（専門家グレードAI）は、専門家が責任を負う重要業務に求められる水準を満たすAIとして、トムソン・ロイターが定義したものです。これは、専門家としての注意義務と規制上の監督責任を負う専門職向けに設計されたAIであり、当社の信頼性の高い専門分野別コンテンツを基盤とし、厳格なプライバシー・セキュリティ対策を備え、各分野の専門家の知見を反映し、検証可能で透明性の高いアウトプットを生成するよう設計されています。
「ほぼ正しい」では不十分
高い精度が求められる専門業務にAIを本格的に取り入れていくためには、使用するAIが厳格な検証に耐え、そのアウトプットの信頼性と検証可能性が確保されている必要があります。
これまで、専門職に対する信頼は、各種基準、資格認定、受託者責任（ fiduciary duty ）によって支えられてきました。すなわち、公認会計士や弁護士などの専門資格を持つ者に対しては、資格そのものだけでなく、それに伴う職業上の義務や行動規範も信頼の根拠となっています。AIが、これまで人が担ってきた業務をより多く代替するようになるのであれば、人間の適性をその職務に照らして評価するのと同様に、AIについても業務に求められる水準への適合性を検証する必要があります。
重い責任を伴う専門業務には、より高い基準が求められる
正確性、説明責任、信頼が重視される規制対象となる専門業務においては、AIはFiduciary-Gradeを満たす必要があります。これは、事実に基づく専門性・信頼性の高い情報源、追跡可能な推論過程、そして専門職および規制当局による厳格な確認・検証の要求水準に耐えうる形で確認できる、透明性の高いアウトプットが必要であることを意味します。
AIが専門職の業務遂行において担う役割が増しても、それによってAIが新たな説明責任を負うわけではありません。下した判断、提供した助言、その後に生じる結果に対する説明責任は、引き続き専門職が負います。Fiduciary-Grade AIは、人間の判断を代替するのではなく、支援するために設計されています。そのために、専門職や規制当局による検証に耐え、その根拠を示して説明・正当化できるアウトプットを生成することが求められています。
Fiduciary-Grade AIの4つの原則
Fiduciary-Grade AIは、生成するアウトプットの内容だけでなく、アクセス、保持、依拠が認められる情報の範囲についても一定の水準を満たす必要があります。
1. 専門性・信頼性の高い情報と業務に必要な背景情報に基づくAI
Fiduciary-Grade AIは、インターネット上の情報だけに依存するのではなく、専門性・信頼性が高く、選別された専門分野別コンテンツを基盤としてアウトプットを生成する必要があります。同時に、専門職の業務遂行に必要な背景情報や業務上の要件を十分に踏まえる必要があります。
また、AIが生成するアウトプットについては、専門職が容易に、その根拠となる情報源を特定し、内容を検証した上で、アウトプットの信頼性を確認できる必要があります。さらに、AIエージェントが、専門職の業務で求められる複雑かつ多段階のタスクを完遂するためには、必要なデータや知識、システム、ツールにアクセスし、適切に活用できる必要があります。
2. データプライバシーとセキュリティは不可欠である
プライバシーが特に重視される分野では、Fiduciary-Grade AI 自体にプライバシー保護機構が備わっている必要があります 。さらに、プライバシーとセキュリティは、後付けのポリシーや設定可能なオプションではなく、システムのアーキテクチャそのものに組み込まれている必要があります。
3. 人による監督にとどまらず、専門家の知見を取り入れて構築されること
専門職の業務プロセスは、該当分野の知見と資格を有する専門家が十分に関与したうえで設計・検証され、継続的に改善されなければなりません。また、判断が分かれる場合やリスクを伴う場合には、AIは不確実性を明示し、専門家による確認と判断を促す必要があります。これにより、説明責任は引き続き専門職が負い、判断根拠を示して説明できる状態が保たれます。
Fiduciary-Grade AIでは、透明性と信頼性を確保するため、お客様が必要に応じ、速やかに人によるサポートを受けられるようにしておく必要があります。
4. 透明性が高く検証可能な推論過程
Fiduciary-Grade AIには、アウトプットの根拠となった情報源と処理過程を明示し、専門職が情報源の内容を参照できるようにすることが求められます。これらの記録は、資格を有する専門職に加え、必要に応じて規制当局、司法当局、監査人がアウトプットの信頼性を確認し、その根拠を説明・正当化できるだけの情報を含んでいる必要があります。また、Fiduciary-Grade AIの計画、推論、実行の各段階を確認できるようにすることは、若手専門職の学習と成長を支援する上でも重要です。
これらが、トムソン・ロイターがAIの設計で重視する原則です。AIが規制対象の業務へとより深く組み込まれていく中で、重要なのは、AIが単にアウトプットを生成できることではなく、専門職がアウトプットを検証し、その妥当性について責任を持って説明できることです。
