6. インフラはIT判断か、それとも経営判断か？
今後必要なのは、クラウド基盤の刷新だけではなく、意思決定、データ、AI、業務、組織、ガバナンスを統合した全体最適の意思決定構造です。重要なのは、「どの業務判断をどこで実行するか」から、インフラ配置を逆算することです。たとえば与信判断では、リアルタイム性、外部信用情報参照のクラウド連携、機密データの安全性を同時に満たす必要があります。この場合は、「推論はオンプレミスGPU、外部データ参照はクラウドAPI、結果はERPへリアルタイム連携」というアーキテクチャが導かれます。
このように、AI時代のインフラ配置の理想は、個別技術の選択ではなく、意思決定を起点として、三層を整備し動的最適配置することです。しかし、すべてを一度に実現するには巨額の投資と高度な運用ケイパビリティが必要となります。そのため、日本企業においては段階的なアプローチが現実解となります。
第一段階では、クラウド上のGPUを使いこなします。AIに特化したマネージドサービス、モデルAPI、GPUインスタンスを活用し、業務に組み込む経験を蓄積します。続いて第二段階では、現場での即時判断ニーズが顕在化した段階でEdge推論を展開します。第三段階は、推論頻度とコストが一定規模に達した段階で、オンプレミスGPU移行やAI特化データセンター投資を検討します。こうした段階的アプローチを成功させるには、最初から三層を見据えたアーキテクチャ原則を持つことが重要です。単一構成への最適化は、後の拡張時に大規模な再設計を強います。
さらに、AI-Augmented Governance（AIでGPU使用、推論コスト、モデルリスク、データ利用、セキュリティを継続監視・改善する仕組み）と、Product Operating Model（AIワークロードをプロダクトとして継続改善する運営モデル）が、AI活用の定着を支えます。
7. GPU調達の前に、何を決めるべきか？
Phase 1：問いの設計と意思決定の可視化
取り組みの起点となるのは、クラウドベンダー選定やGPU調達ではなく、「どの意思決定をAIで高度化し、その処理をどこで実行するか」の定義です。経営として高度化すべき意思決定、各AI処理の特性、クラウド・オンプレミスGPU・Edgeへの配置、データ配置、GPU確保・管理、コスト・性能の継続最適化を整理します。
これらの判断基準を、経営、事業、IT、セキュリティ、データの共通理解として持つことが重要です。
Phase 2：PoCで終わらせず、業務に組み込む
重要なのは、AIモデルの構築ではなく、AIの判断結果が業務システムに連携され、人の承認を経て、実際のアクションにつながる状態を実現することです。そのためには、業務プロセス、権限、データ連携、ガバナンス、モニタリングを含めた統合設計が必要となります。推論基盤、監視、セキュリティ、コスト管理、モデル改善、データ品質管理をAIワークロード運用基盤として統合することで、AI活用は企業の意思決定能力を高める仕組みへ進化します。
8. インフラが、企業の知的処理能力を決める時代が来る？
EYは、AI時代のクラウドインフラを単なる技術導入とは捉えていません。クラウド移行、AI基盤構築、GPU活用、Edge推論、データ基盤整備を分断せず、企業がどの意思決定を変え、どの業務にAIを組み込み、どう全社へスケールさせるかを起点に支援します。
構想フェーズでは、経営、事業、IT、データ、AIを統合し、高度化すべき意思決定を明確化した上で、AI時代におけるデジタル・エンタープライズ・アーキテクチャの将来像を描き、ロードマップを定義します。実行フェーズでは、ERP、SaaS、データ基盤と接続してAIを本番業務へ組み込み、Decision Architecture、AI-Augmented Governance、Product Operating Modelを整備します。
