多様なバックグラウンドを持つ3人のビジネスプロフェッショナルが、モダンな建築と緑を特徴とする広々としたオフィスにある、明るい陽射しが差し込む廊下で議論を交わしている

AI評価がAIの信頼性をいかに高めるか


適切に設計されたAI評価は、AIテクノロジーへの投資がビジネスや社会の期待を満たしているかどうかを見極めるために役立ちます。


要点
  • ビジネスリーダー、政策立案者、投資家は、人工知能(AI)システムがどのような影響をもたらすのか、それは安定して機能するのか、そして信頼あるAIとはどのようなものなのかを明確にしようと努めている。
  • 世界各国におけるAIに関連する最近の公共政策イニシアチブでは、「AI監査」または「AI保証」とも呼ばれる評価フレームワークが導入されつつある。
  • AI評価は、自主的に行うものであれ規制に基づくものであれ、企業がAIのパフォーマンス、ガバナンス、コンプライアンスを評価するのに役立つ。



EY Japanの視点 

本記事では、AIシステムの安全性や品質、AIシステムを開発・運用・利用する組織のガバナンスに対する評価(アセスメント)の必要性や留意点について論じています。

AIシステムが日常生活やビジネスの現場に浸透していく一方で、「それらのAIシステムは安心して利用できるものなのか」「期待した性能を発揮しているのか」、利用者やビジネス組織のリーダーは懸念と疑問を持っておられます。AI評価を実施し、その結果をAIシステムに関わるさまざまなステークホルダーに開示すること(透明性)は、このような懸念と疑問に対する回答の1つとなります。

加えてAI評価はAIシステムの開発者自身としても大いに役立つものと考えています。AIシステムの開発に当たって、AIシステムの信頼性や組織におけるAIガバナンスに関する法令等による明確な要求水準がなく、国内の多くのAIシステム開発者が苦労されていますが、AI評価は、AIシステムやAIガバナンスのリスクや課題を識別し、打つべき施策を検討する基礎資料として大いに役立つものです。

EY Japanは組織におけるガバナンスやリスクマネジメントプロセスに対する多くの評価の経験を有しており、また、EYのグローバルネットワークを通じてAIに関わる各国・地域の法令・ガイドラインや標準化団体による標準等の策定状況を継続的に調査しています。EY JapanはAI評価を通じて、貴社のAI利活用のさらなる推進と安心・安全なAIシステムの提供に貢献いたします。


EY Japanの窓口

川勝 健司
EYストラテジー・アンド・コンサルティング株式会社 リスク・コンサルティング パートナー

菅 達雄
EYストラテジー・アンド・コンサルティング株式会社 リスク・コンサルティング シニアマネージャー



AIは、ビジネスリーダー、政策立案者、そして一般の人々にとって、生産性を高め、イノベーションを加速させることができる、これまでにないほど大きな機会となります。しかし、AIはその有効性、ガバナンス、信頼性に関する透明性や保証が乏しく「ブラックボックス」のように見えることもあります。こうした懸念に対応することを目的としたAI評価のフレームワークが登場しつつありますが、その手法の数と種類の多さが課題となっています。

本記事は、EYのプロフェッショナルが英国勅許公認会計士協会(ACCA)と共同で執筆したもので、AI評価という新たな分野を探求し、効果的なAI評価の特徴を特定するとともに、ビジネスリーダーや政策立案者にとって重要な考慮事項を浮き彫りにしています。私たちのレビューによると、急速に形成されつつあるAI評価エコシステムにより、企業にはより効果的で安全かつ信頼できるAIシステムを構築・導入する機会が提供されています。AI評価は、自主的に行うものであれ規制に基づいて行うものであれ、AIシステムに対する信頼を高めることにつながります。適切に設計されたAI評価によって、ビジネスリーダーはシステムが意図通りに機能しているかを評価することができます。また、効果的なガバナンスやリスク軽減策を策定し、関連する法令・規制・基準へのコンプライアンスの徹底に役立てることも可能です。

AIに対する期待と同様に、懸念も多岐にわたっています。世界15,000人以上を対象とした「2025年EY AIセンチメント指数試験(EY 2025 AI Sentiment Index Study)」によると、過去6カ月間に82%の消費者がAIを利用した一方で、58%の消費者が、AIの不適切な使用に対して、組織が自らの説明責任を果たしていないことを懸念しています。ビジネスリーダーは、AIシステムの安全性と有効性をどのように評価できるのか、いかにAIシステムのリスクを特定し管理すべきかを模索しています。またAIシステムをガバナンスやパフォーマンスの指標(クライテリア)に照らしてどのように評価すべきかという問いへの答えを求めています。

AI評価:AIへの信頼を向上させる

効果的なAI評価は、強固なガバナンス、コンプライアンス、パフォーマンスを後押しすることができます。

AI評価の動向を理解する

経済協力開発機構(OECD)によると、2025年1月時点で、約70カ国の政策立案者が、法律、規制、自発的な施策、協定を含む1,000件以上のAI関連公共政策イニシアチブを導入しています。こうしたイニシアチブの多くには、さまざまな種類のAI評価が含まれています。これらのAI評価は、大きく3つのカテゴリーに分類できます。

  1. ガバナンス評価は、AIシステムのリスク、適合性、信頼性を含め、AIシステムを管理するために適切なコーポレートガバナンス方針、プロセス、および人材が組織内に整備されているかどうかを判断するためのものです。

  2. コンプライアンス評価は、組織のAIシステムが関連する法律、規制、基準、またはその他の政策要件に準拠しているかどうかを判断するためのものです。

  3. パフォーマンス評価は、AIシステムの中核機能の品質(精度、非差別性、信頼性など)を測定するためのものです。これらの評価では、AIシステムの特定の側面を評価するために定量的な指標がしばしば使用されます。

これら3つの新たな評価手法を用いても、評価の質には大きなばらつきが生じる可能性があります。こうした課題に対処するため、AI評価には必ず以下の特性を含めることを推奨します。

  • 評価対象と評価理由の明確化:効果的なAI評価フレームワークには、明確に規定され明文化されたビジネス目標または政策目標、範囲、および対象事項が設けられている必要があります。

  • 明確な方法論(メソドロジー):対象をどのように評価するかは、方法論と適切なクライテリアにより決定されます。同種類のAI評価では、明確に定義された一貫したアプローチを使用することが不可欠です。例えば、評価によっては、明確な意見や結論が含まれるものもあれば、実施された手順の概要のみが提供されるものもあるでしょう。明確な用語を使用した一貫したアプローチにより、ユーザーは評価結果を比較し、その根拠を理解できます。

  • 評価提供者が有しているべき資格:評価提供者の選択は極めて重要であり、評価プロセスの妥当性、信頼性、全体的な整合性に直接影響を及ぼします。評価提供者を選定する際に考慮すべき主な事項には、能力と資格、客観性、専門的な説明責任が含まれます。

ビジネスリーダーの次のステップ

  • コーポレートガバナンスやリスク管理の強化に対してAI評価が果たす役割を検討する。AI評価は、ビジネスリーダーが自社のAIシステムに関連する新たなリスクを特定・管理し、AIシステムが意図した通りに機能しているかどうかを判断するのに役立ちます。

  • 規制で義務付けられていない場合であっても、従業員、顧客、その他の重要なステークホルダーの間でAIシステムへの信頼性を構築するため、自主的な評価を実施するかどうかを評価する。市場の動向、投資家の要求、あるいは内部ガバナンス上の考慮事項から、自発的なAI評価が企業のAIシステムに対する信頼構築に有益となる場合があります。さらに、一部のAIシステムが規制上の義務の対象となる場合、ビジネスリーダーはコンプライアンス状況の測定とモニタリングに役立てるため、AI評価を活用することを選択できます。

  • 自主的な評価を実施する場合、最も適切な評価方法を決定する。ビジネスリーダーは、ガバナンス評価、コンプライアンス評価、パフォーマンス評価のいずれを実施するのか、またその評価を社内で行うべきか、第三者に委託すべきかを判断する必要があります。

サマリー

ビジネスリーダーや政策立案者は、AIガバナンスの目標達成を支援する上で、AI評価が果たし得る役割を検討し始めています。現在のAI評価を取り巻く状況には明確な課題がありますが、さまざまなステークホルダーがこれらの課題解決に取り組んでいます。こうしたAI評価エコシステムの構築は重要です。AI評価が適切に設計され、慎重かつ客観的に実施されれば、企業が自社のAIシステムの信頼性を評価し、AIの潜在力を引き出すために必要不可欠な信頼と信用を醸成するために役立ちます。

関連記事

「責任あるAI」により投資を成果につなげるにはどうすればよいか

「責任あるAI」により投資を実質的な成果につなげる方法を解説します。

「責任あるAI」により企業の競争優位性を高める方法

AIに対する信頼のギャップを埋めることで、どのように導入を加速し、競争優位性を生み出せるかをご紹介します。責任あるAIのリーダーシップに向けた3つの重要な行動を探ります。

「責任あるAI」に関する戦略の4つの柱

本記事では、民間セクターがAIガバナンスを能動的に整備すべき理由とその方法をご紹介します。

信頼を築くインテグリティファースト型のAI活用戦略とは

EYグローバルインテグリティレポート2024は、今日のインテグリティファースト型のAI活用が、明日の信頼を築くと示しています。詳しくは、調査結果をご覧ください。



    この記事について

    執筆者