AI CoE vs. Embedded vs. Federated：最適な組織モデルの選択
組織にAI能力を構築することは決まりました。次に来るのは、誰もが明確に答えてくれないように見える問いです。その能力は実際にどこに位置するのか？
答えは、組織がAIの成熟度の5段階のどこにいるかに大きく依存します。そしてACE Framework（Ingest、Analyze、Predict、Generate、Execute）は、どこに配置するかを決める前にどの能力を構築する必要があるかを明確にするのに役立ちます。
AIは、事業部門がプロジェクトを依頼する集中型チームに位置するのか？営業、財務、マーケティング、オペレーションにAI人材を埋め込むのか？両方のメリットを得ながら問題を回避するハイブリッドモデルが存在するのか？
「最も良さそうなもの」という答えはありません。成熟度段階、組織構造、利用可能な人材、3〜5年後のあるべき姿によって異なります。そしてモデル間の切り替えコストは、今間違ったものを選ぶと後で高くつき、かつ混乱を招く再編成が必要になるほど高いものです。
本稿では、CIO（最高情報責任者）、COO（最高執行責任者）、トランスフォーメーションリーダーに向けて、3つの組織モデルとそのトレードオフ、成熟度段階別の適合ガイド、そしてほとんどのモデル議論が軽視する切り替えコストの現実を示します。
モデル1：集中型AI Center of Excellence（CoE）
Key Facts: AI組織モデル
- 公式のAIガバナンスプラットフォームを展開した組織は、そうでない組織と比較してAIガバナンスの高い有効性を達成する可能性が3.4倍高い。（Knostic AI）
- McKinseyの調査では、AIのリスク管理、コンプライアンス、データガバナンスは完全集中型CoEモデルで処理されることが最も多く、展開と採用はFederated型ハブアンドスポーク構造が最も効果的であることが確認されている。
- AI成熟度が高い組織の45%がAI施策を少なくとも3年継続しているのに対し、成熟度が低い同業他社ではわずか20%にとどまる。（Knostic AI）
定義： 共有サービスモデルを持つ専任AIチームです。事業部門がリクエストを送り、CoEが戦略を所有し、能力を構築し、組織全体のプロジェクトを提供します。1つのチーム、1つの予算、1つのガバナンス構造。
実際の姿： CoEは中堅市場規模で通常5〜15人で構成されます。AI/MLエンジニア、データサイエンティスト、プログラムマネージャー、CTO（最高技術責任者）またはCIOに報告するテクニカルリードです。事業部門のリクエストはプロジェクトとして届きます。CoEが評価し、優先順位をつけ、構築します。ガバナンス、標準、ベンダー管理は集中管理されます。
強み：
一貫性が主な利点です。1つのチームが組織全体のAI展開を所有することで、一貫したガバナンス、一貫したデータ実践、一貫したセキュリティ標準、そしてシャドーITの拡散ではなく単一のAIツールのインベントリが得られます。規制産業（金融サービス、ヘルスケア、法律）はこれを高く評価します。コンプライアンスを各事業部門で独立して監査するのではなく、中央で管理できるからです。
専門人材の集中が2番目の利点です。AIエンジニアの小さな深いチームを構築する方が、各事業部門に薄めたバージョンを配置するより簡単です。CoEは分散型モデルが匹敵できない制度的知識と高度な能力を開発できます。
インフラの重複がありません。1つのベクターデータベース、1つのモデル評価フレームワーク、1つのモニタリングスタック。初期の成熟度段階では、機動性よりもこれが重要です。
弱み：
CoEモデルには1つの根本的な失敗モードがあります。ボトルネックです。各事業部門のAIニーズが有限の能力を持つ中央チームを通じなければならない場合、最も緊急にAIを必要とする事業部門はキューで待つことになります。営業チームがQ2にリードスコアリングモデルを望んでいても、他の3つのプロジェクトの後のキューにいます。CoEには緊急性を理解するビジネスコンテキストがありません。事業部門には有用な仕様を提供する技術的コンテキストがありません。コミュニケーションオーバーヘッドが増大します。
2番目の失敗モードはビジネスコンテキストからの距離です。営業プロセスで働いていないAIエンジニアは、リードスコアリングモデルが担当者にとって有用である理由を直感的に理解しません。ワークフローに合わない技術的には正しいソリューションは集中型モデルでは一般的です。事業部門はモデルが機能しないと言います。CoEはモデルは正常に機能すると言います。両方が正しいのです。ギャップはコンテキストです。
「象牙の塔」リスクはこれの名前付きバージョンです。日常業務に近くない人々によって設計されたため、誰も使わない印象的で技術的に洗練されたソリューションを構築するCoEです。
最適な場面： ステージ2〜3の組織。AIのEmbedded専門家をあちこちに現実的に採用できないAI人材が限られた企業。ガバナンスの集中化がコンプライアンス要件である規制産業。事業部門の自律性が低い組織（一般的にはより集中型の意思決定文化）。
リーダーシップ： 通常、CTOに報告するVP of AIまたはHead of AI Engineeringです。CAIO（最高AI責任者）ポジションを持つ大企業では、CoEはそこに報告します。
モデル2：Embeddedスペシャリスト
定義： AIとデータサイエンスの人材が中央チームではなく事業部門の中に位置します。営業部門には独自のAIアナリストがいます。財務部門にはデータサイエンティストがいます。マーケティング部門にはAIスペシャリストがいます。部門間の調整は軽く、中央のAI機能はありません。
実際の姿： 各事業部門のリーダーが独自のAI人材を採用し、独自のAIロードマップを所有します。インフォーマルなコミュニティ・オブ・プラクティスの調整はあるかもしれませんが、中央のガバナンスや共有インフラはありません。各機能が独自のペースで動きます。
強み：
ドメインコンテキストがコアの強みです。営業機能にEmbedded型のAIエンジニアは、何百時間もの営業ワークフローを見てきており、どのパイプラインシグナルが担当者にとって重要かを理解し、理論的なバージョンではなく実際の業務に合うツールを構築できます。事業部門固有のソリューションはCoEが構築したソリューションよりもほぼ常に採用率が高いです。構築した人々がワークフローを理解しているからです。
スピードが2番目の強みです。事業部門がAI能力を所有する場合、キューもプロジェクト受付プロセスも部門横断のアライメントのオーバーヘッドもありません。Embedded型スペシャリストはアイデアからプロトタイプまで数ヶ月ではなく数日で進めます。
ビジネス優先事項とのアライメントが構造的に強いです。Embedded型スペシャリストのパフォーマンスは中央のAIチームではなく事業部門のリーダーによって評価されます。彼らのインセンティブは技術的な洗練度ではなくビジネス成果と一致しています。
弱み：
ガバナンスの断片化が主なリスクです。集中した標準なしでは、異なる事業部門が異なるデータ実践、異なるセキュリティコントロール、異なるAIツールスタック、異なるコンプライアンスアプローチを持つことになります。規制産業では法的問題です。すべての産業で監査の複雑さとベンダーの増殖をもたらします。
一貫性のない標準により、2つの事業部門が同じタイプのAIツールを互換性のない方法で展開する可能性があり、AIトランスフォーメーションが最終的に必要とする統合されたインテリジェンスではなくデータのサイロを作ります。
人材の孤立は過小評価されています。50人規模の事業部門にEmbeddedされた1人のAIエンジニアには、技術的な同僚がいません。学ぶ、コードレビューを受ける、難しい問題で協力するための仲間がいません。彼らは孤島です。定着率とスキル開発が損なわれます。最も優秀なEmbedded型AI人材は技術コミュニティがある環境に移っていく傾向があります。
組織レベルでの管理が難しくなります。CIOは組織全体でどのAIツールが動いているか、どのデータにアクセスしているか、どのようなガバナンスが存在するかを把握していません。シャドーAIはEmbedded型AIの論理的な終点です。
最適な場面： 事業部門の自律性と文化が強いステージ3〜4の組織。ガバナンスの一貫性よりもスピードとビジネスアライメントが重要な企業。集中型ガバナンスをすでに確立し、展開を安全に分散できる組織。CoEのキュー90日が受け入れられない速い動きの産業。
リーダーシップ： 各Embeddedスペシャリストは事業部門のリーダーに報告します。軽いCIOまたはCTO機能がコミュニティ・オブ・プラクティスの調整と最低限のセキュリティ標準を提供します。中央のAI階層はありません。
モデル3：Federated（ハブアンドスポーク）
定義： 小さな中央プラットフォームとガバナンスチーム（ハブ）と各主要事業部門のEmbedded型AIリード（スポーク）の組み合わせです。ハブはプラットフォームインフラ、ガバナンス標準、戦略的方向性を所有します。スポークはドメイン固有の展開、迅速なイテレーション、事業部門の優先事項を所有します。
実際の姿： ハブは通常3〜8人の小チームです。プラットフォームエンジニア、ガバナンスリード、モデル評価スペシャリスト。各事業部門には、デリバリーについては事業部門リーダーに説明責任があり、標準、ツール、技術サポートについてはハブとアライメントした1〜2人の専任AIプラクティショナーがいます。スポークは自分でインフラを構築する必要がないため速く動けます。ハブはすべてのプロジェクトを所有することなくガバナンスを維持します。
これはMcKinseyがRewiredフレームワークでデジタルとAIトランスフォーメーションを追求する大規模組織のターゲット状態として説明するモデルです。具体的な形式は異なりますが、コア構造（共有プラットフォーム、分散されたドメイン専門知識）はパイロットプログラムを超えてAIをうまくスケールした組織のエンドポイントとして一貫して現れます。
強み：
他の2つのモデルの2つの主要な利点を組み合わせます。CoEのプラットフォームの一貫性とガバナンス品質、そしてEmbeddedモデルのドメインコンテキストとスピードです。スポークのAIリードはビジネスを知っており、ハブは彼らが構築するインフラを提供します。
調整のオーバーヘッドは実際には言葉ほど高くありません。なぜならスポークは独自のものを構築するのではなく共有インフラ上に展開するからです。APIは標準化されています。データパイプラインアーキテクチャは標準化されています。ガバナンスチェックリストはすべてのスポーク展開で同じです。変化はアプリケーション層にあり、そこが事業部門の専門知識が重要な場所です。
スケーリングがよりスムーズです。Federatedモデルに新しい事業部門を追加するとは、CoEの受付プロセスを再構築するのではなく、新しいスポークを追加することを意味します。
弱み：
調整のオーバーヘッドは純粋なCoEよりは低くても依然として実在します。ハブスポークの関係は積極的な管理を必要とします。ハブの標準から逸脱するスポークはEmbeddedモデルと同じ断片化を引き起こします。ハブのガバナンスが弱いと、ガバナンスが存在するという誤った安心感を与えるため、ガバナンスがない場合よりも速く断片化が生まれます。
デュアルレポートはテンションを生みます。スポークのAIリードの日々の優先順位は事業部門リーダーによって決まりますが、キャリア開発と技術標準はハブに接続されています。これらの優先事項が衝突するとき（必ず衝突します）、スポークリードは難しい立場に置かれます。レポート関係を設計ミスした組織はスポークの高い離職率を経験します。
採用が難しいです。ハブのジェネラリスト（プラットフォームエンジニアリング、ガバナンス）とスポークのスペシャリスト（ドメイン知識とAI能力の両方）が必要です。一人でその組み合わせを持つ人材は稀で高価です。多くの組織がハブを先に構築し、その後適切なスポーク人材を引きつけられないことがわかります。
最適な場面： 通常ARR（年間経常収益）1億ドル以上で複数の独立した事業部門を持つステージ4の組織。対立を生むことなくデュアルの説明責任を維持する管理インフラを持つ企業。ハブが必要とする集中インフラ（データプラットフォーム、ガバナンスフレームワーク）をすでに構築した組織。ほとんどの中堅市場企業はここからスタートすべきではありません。
リーダーシップ： ハブを率いるのはVP of AI PlatformまたはAI Engineering VP（通常CTOまたはCAIOに報告）です。各スポークリードはハブとのドットライン関係と事業部門長とのソリッドライン関係を持ちます。ガバナンスモデルは両方が機能することを必要とします。ハブの権限は標準に、事業部門の権限は優先事項に。
成熟度段階別の選択方法
成熟度段階の適合性は、ほとんどの組織設計の議論が認める以上に決定論的です。
ステージ1（アドホック）： まだ専用モデルを構築しないでください。コーディネートするためのガバナンス構造を必要とするほどのAI展開がまだありません。ChatGPTとCopilotを使う個々の従業員にCoEは必要ありません。正しい投資はAIポリシー（どのツールが承認されているか、どのデータ分類が適用されるか）と基本的なAI Literacy研修です。調整する実際の展開なしに組織の複雑さを追加することは価値なしにオーバーヘッドを作ります。
ステージ2（パイロット）： 軽量なCoEから始めるか、非常に小さな組織の場合はCoEの責任を持つ単一のAIリードから始めます。パイロット段階では、ガバナンスを所有し、ベンダーを評価し、パイロットプロジェクトを管理し、ベースラインインフラを構築する担当者が必要です。これは胚芽的形態のCoE機能です。投資は控えめ（1〜3人、インフラ予算）であり、ここで確立したガバナンス規律は後の高価な問題を回避します。
ステージ3（スケール）： Embedding（埋め込み）を始めます。2〜3つのAIユースケースを超えてスケールするにつれて、CoEのボトルネックが現れます。解決策は、CoEの機能をガバナンスとプラットフォームのために維持しながら、最も優先度の高い事業部門にEmbedded型能力を追加することです。これは初期のFederatedモデルですが、まだそのように形式化されていないかもしれません。ハブはオリジナルのCoEチームであり、スポークは最初に独自の能力を必要とした事業部門のEmbedded型スペシャリストです。
ステージ4（統合）： Federatedモデルを形式化します。複数の事業部門の複数のコアワークフローにAIが埋め込まれ、CoEが主にすべての展開を構築するのではなくインフラとガバナンスを維持するようになったとき、実際にはFederatedモデルに到達しています。それを形式化すること（名前のついたハブとスポークの役割、明示的なガバナンス責任、明確なエスカレーション経路）は、インフォーマルな構造を持続可能にします。
ステージ5（トランスフォーメーション）： Federatedモデルが続きますが、AI能力がビジネスにとって非常にコアになっているため、「AI機能」と「ビジネス機能」の区別が曖昧になり始めます。ハブの役割はスポークがますます独自の能力を所有するようになる中で、リサーチと新興能力の開発に移行します。
切り替えコストの現実
これはほとんどの組織設計の議論がスキップする部分であり、実際の決断が行われる場所です。
CoEモデルからFederatedモデルへの移行は高価で混乱を招きます。以前集中していた説明責任を分散するようにガバナンスを書き直しながら、ハブの役割に移行するCoEの人材を維持しつつ新しいEmbedded型人材を採用する必要があります。AI툴のベンダー評価フレームワークはこの移行時に特に重要になります。ハブの最初のガバナンス責任はしばしば、組織全体で標準化されるベンダーツールとスポークが独自に選択できるものを確立することです。事業部門のリーダーが以前は共有サービスとして受け取っていたAI人材の予算責任を受け入れる必要があります。そしてオリジナルのCoEチームが縮小されたスコープと場合によっては人員削減を受け入れる必要があります。
その移行は可能です。しかし通常12〜18ヶ月かかり、AI展開もスケールしようとしている期間に重大な組織的混乱を生みます。ステージ3で間違ったモデルを構築したことに気づいた組織は、まさに最悪のタイミングで切り替えコストを支払います。
意味すること：開始状態を構築する前に終了状態を計画してください。
ステージ2でCoEを始める場合、ハブに進化できるように設計してください。分散化するために完全な再構築を必要とするような集中型チーム構造を構築しないでください。プラットフォームインフラを集中管理し（両方のモデルに良い）、最終的に事業部門に移行できるようにプロジェクトデリバリー能力を構築してください。
ステージ3でEmbedded型能力を構築する場合、ハブに接続できるように設計してください。今（たとえインフォーマルであっても）ハブのガバナンスフレームワークになる標準を確立してください。各Embedded型スペシャリストが独自の互換性のないインフラを構築することを許容しないでください。ハブが構築されたときの最初の仕事がその断片化のクリーンアップになるからです。
3つの組織モデルの選択
3つの組織モデルの選択は、AI能力が組織のどこに位置すべきかを決める成熟度段階の意思決定フレームワークです。3つの選択肢は、集中型AI Center of Excellence（1チーム、共有サービス、一貫したガバナンス）、Embeddedスペシャリストモデル（事業部門内のAI人材、ドメインコンテキスト、最大スピード）、そしてFederatedハブアンドスポーク（集中型プラットフォームとガバナンスに事業部門展開のスポークを組み合わせる）です。各選択肢は特定の成熟度段階に適切であり、切り替えコストは現在の段階に合わないモデルを選ぶと次の段階に到達したときに高価な再編成が必要になるほど高いものです。
Quotable: 「スケールしている組織に関するMcKinseyの調査では、リスク、コンプライアンス、データガバナンスは集中型CoEを通じて管理されることが最も多く、展開と採用はFederated構造を通じて最も成功することが確認されている。ガバナンス機能は集中したままであり、デリバリー機能が分散される。」
Quotable: 「CoEモデルからFederatedモデルへの移行は通常12〜18ヶ月かかり、AI展開もスケールしようとしている期間に重大な組織的混乱を生む。切り替えコストはまさに最悪のタイミングが最も高い。」
Quotable: 「Federatedモデルは大規模組織にとっての目的地だ。出発点ではない。ほとんどの中堅市場企業は、接続する価値のあるハブを構築できる前にCoEを構築する必要がある。」
| モデル | 最適な成熟度段階 | 主な強み | 主なリスク |
|---|---|---|---|
| 集中型CoE | ステージ2〜3 | ガバナンスの一貫性、専門人材の深さ | ボトルネック、ビジネスコンテキストからの距離 |
| Embeddedスペシャリスト | ステージ3〜4 | ドメインコンテキスト、スピード | ガバナンスの断片化、シャドーAI |
| Federatedハブアンドスポーク | ステージ4以上 | 両方のメリットを組み合わせる | デュアルの説明責任のテンション、採用の難しさ |
Rework分析: エンタープライズAI組織パターンに基づくと、モデル選択で最も一般的な失敗は過度な野心です。ステージ2の組織が、維持するための管理インフラも人材プールも持っていないFederatedモデルを試みます。結果は権限が少なすぎるハブとサポートが少なすぎるスポークです。軽量なCoEから始める段階的な進行は、ステージ4までに機能するFederatedモデルに至る最も信頼性の高い道です。
各モデルがAI Literacyプログラムに求めること
選択した組織モデルは、AI Literacy（つまり従業員がAIアウトプットを使用、検証、ガバナンスする能力）研修への必要投資を形成します。
CoEモデルでは、ビジネスユーザー向けのAI Literacyが重要です。なぜならビジネスユーザーがCoEと実際のワークフローのインターフェースだからです。自分が必要なものを明示できず、AIアウトプットの品質を評価できず、AIが間違っている場所を特定できないビジネスユーザーは、CoEがその側から解決できないコミュニケーション失敗を生みます。ビジネスユーザーにアウトプットの検証とエスカレーション判断を集中的に訓練してください。
Embeddedモデルでは、事業部門リーダー向けのAI Literacyが優先事項です。なぜなら事業部門リーダーがEmbedded型スペシャリストの方向性を設定し、良い質問をし、良いBuild vs. Buy判断をするために十分な理解が必要だからです。エグゼクティブのAI Literacyは、Embeddedモデルで最も頻繁に対処されていないギャップです。
Federatedモデルでは、両方の層が重要です。スポークチームは完全な技術的AI Literacyが必要であり、彼らが担うビジネスステークホルダーはアウトプットの検証とポリシー認識が必要です。ハブはガバナンス固有のLiteracy（リスク管理、監査設計、ベンダー評価）が必要です。
研修プログラムの構造についてはAI Literacy：新しい職場スキルをご覧ください。組織モデルがサポートする必要がある機能レベルの役割設計についてはAIによる役割の進化：誰に何が変わるのかをご覧ください。
選択するモデルは、AIトランスフォーメーションの業務を誰が所有し、どれだけ速く進むかを決定します。正しく選ぶには、現在の成熟度段階、組織文化、そして現実的に3年後にありたい場所についての誠実さが必要です。McKinseyのAIの現状調査では、リスク、コンプライアンス、データガバナンスについて組織が完全集中型モデルを最も多く使用し、展開と採用についてはスケール時にハイブリッドなハブアンドスポークが最も一般的な構造であることがわかっています。「Rewired」フレームワークはFederatedモデルを目的地と呼んでいます。そこから始めるとは言っていません。ほとんどの組織は、接続する価値のあるハブを構築できる前にCoEを経る必要があります。
Co-Founder & CMO, Rework