「生成AIを導入したが、思ったほど成果が出ていない」。経営会議やDX推進の現場で、この種の本音を耳にする機会が増えています。ツールの契約自体はすでに済んでいる企業が大半です。問題はその先、日々の業務が実際に変わったかどうかです。本稿では、日本の中小企業を対象にした最新調査と、MIT・McKinseyといった海外の調査データを突き合わせ、生成AI導入がつまずく実態を確認します。そのうえで、原因の多くがAIモデルの性能ではなく「人と体制」の側にあることを、3つの壁として整理し、壁を越えている企業に共通する動き方と、解決に向けた選択肢を紹介します。
目次
まず現在地を数字で確認します。商工中金が2026年1月に実施した中小企業向けの調査（郵送送付10,772社、有効回答3,892社、回収率36.1%）によれば、会社主導で生成AIを導入している企業と、会社導入はないものの個人利用を推奨している企業を合わせた「生成AI積極活用層」は31.1%でした。しかし、この積極活用層のうち「経営へのプラスの効果を感じている」と回答した企業は31.7%にとどまります。単純に掛け合わせると、全回答企業のうち経営への好影響を語れている企業は1割に満たない計算になります（参照：商工中金「中小企業の生成AIの利用にかかる調査（2026年1月調査）」(2026年3月)）。導入したかどうかと、成果を語れるかどうかのあいだに、大きな段差があるということです。
同じ構図は海外の調査でも指摘されています。MITメディアラボ発のNANDAプロジェクトが2025年7月に公表した調査は、300件を超える公開AI導入事例のレビュー、53件の構造化インタビュー、主要カンファレンスに参加したシニアリーダー153名へのアンケートという複合的な設計に基づいています（対象がカンファレンス参加者や公開事例に偏る可能性がある点には留意が必要です）。この調査では、生成AIの導入企業のうち測定可能な損益上の効果を得られたのは5%にとどまり、残る大半は目に見えるリターンを得られていないと報告されています（参照：MIT NANDA「The GenAI Divide: State of AI in Business 2025」(2025年7月)の分析）。国も調査手法も異なる2つの調査で、「使ってはいるが、成果は語れない」という同じ形の分布が現れているわけです。
なぜこの段差が生まれるのか。多くの企業は原因をモデルの精度やツールの機能不足に求めがちですが、実際に調査データを分解していくと、つまずきの大半は技術面ではなく、組織の側にあることが見えてきます。ここから、その内訳を3つの壁として整理します。
1つ目の壁は、生成AIの能力を、目の前の業務に翻訳する人がいないという壁です。
先の商工中金の調査では、導入以前の段階でつまずく理由として「具体的な活用場面が不明」が35.6%と最も高く、「自社業務になじまない」も22.2%で続きます（参照：同上）。ツールを渡されても、それを自社のどの業務に、どう当てはめればよいかが分からないまま止まってしまう企業が多いということです。
MIT NANDAの調査も、同じ現象を利用者側の行動として捉えています。実際に生成AIを使っている従業員のうち70%は、単体テスト生成や基本的なリファクタリングといった、その場で完結する即応タスクにしか使っておらず、複雑な業務については90%が人間の同僚に頼ることを選んでいると報告されています（参照：MIT NANDA「The GenAI Divide」(2025年7月)の分析）。これは現場が怠けているという話ではありません。「この業務のこの部分をAIに任せ、この部分は人が判断する」という切り分けを誰かが設計しない限り、汎用的なツールは自然には業務に馴染まないということです。
この翻訳作業は、ITリテラシーの高い一部の担当者に任せきりにできるものでもありません。業務の勘所を知る現場の人間と、AIの得意・不得意を知る技術側の両方の視点が必要で、どちらか一方だけでは翻訳は成立しません。この役割を担う人が組織のどこにもいない状態が、1つ目の壁の正体です。
2つ目の壁は、試作までは進められても、それを実際の業務で動かし続ける体制がないという壁です。
商工中金の調査では、導入を検討する段階での最大の課題として「導入を推進する人材がいない」が32.0%で最も高くなっています（参照：同上）。これは中小企業に限った話ではありません。IPAが日本・米国・ドイツの企業を対象に実施した「DX動向2025」では、DXを推進する人材の「量」が不足していると回答した日本企業は85.1%にのぼり、米国の23.8%、ドイツの44.6%を大きく上回っています。しかもこの水準は2022年度調査の83.5%、2023年度調査の85.7%とほぼ同じで、単年の一時的な数字ではありません（参照：IPA「DX動向2025 日米独比較で探る成果創出の方向性」(2025年6月)）。試しに使ってみる段階までは個人の裁量で進められても、それを本番の業務プロセスに組み込み、例外処理や既存システムとの連携まで含めて作り込む段階になると、担い手が足りずに止まってしまう企業が大半だということです。
MIT NANDAの調査は、この体制の壁を企業規模の観点からも裏付けています。大企業ほどパイロットの数や投資額は多いものの、実際の本番化の成功率はかえって低い傾向があり、その一因として中央集権的なAIラボや専門チームに意思決定が集まりすぎ、現場との距離が生まれていることを指摘しています（参照：同上）。人材の絶対数が足りない中小企業と、人材はいても意思決定が現場から離れすぎている大企業。規模は違っても、「本番化を担う手が現場に届いていない」という構造は共通しています。
外部に発注すれば体制の壁を避けられるかというと、そう単純でもありません。要件を固めて発注し、納品を受けて終わるという従来型の外注のリズムと、優先順位を変えながら現場で作り続ける必要がある生成AI実装は、性質が噛み合わないことが多いためです。この違いについては「FDEとSIer・受託開発は何が違うのか」で詳しく扱っています。また、外部人材を入れることを「常駐のSESを雇うことだ」と誤解して二の足を踏むケースも少なくありませんが、この誤解については「FDEは常駐SESなのか」で整理しています。
3つ目の壁は、いったん動くものができても、そこで止まってしまい、改善のサイクルが回らないという壁です。
商工中金の調査で、導入後の段階における最大の課題は「社内ルールや方針整備が追い付かない」で25.1%、次いで「導入効果が測定できず、成果が見えにくい」が21.3%、「業務プロセスに組み込めず、定着しない」が12.0%と続きます（参照：同上）。作った時点では動いていたはずのものが、ルールや評価の仕組みが追いつかないまま放置され、いつの間にか使われなくなる。この流れが、日本の中小企業でも一定数起きているということです。
McKinseyの調査でも、似た構図が報告されています。AIエージェント（人の指示を待たずに一連の作業を進めるAIの仕組み）について、試験導入している企業は62%にのぼる一方、それを組織的にスケール展開できている企業は23%にとどまっています（参照：McKinsey「AI at work, but not at scale」Week in Charts (2025)）。試すところまでは多くの企業が到達できても、それを組織全体の仕組みとして根付かせる手前で、多くが足踏みしているということです。
この壁の根っこには、道具そのものの性質もあります。MIT NANDAの調査では、経営層の66%が「ワークフローから学習し、より確かな記憶を持つシステム」を求めていると回答した一方、実際に使っているシステムの多くは、現場からのフィードバックを取り込めず、同じ失敗を繰り返す設計になっていると指摘されています（参照：同上）。導入時にどれだけ丁寧に設計しても、使いながら学習し、直していく仕組みがなければ、成果は最初の数か月で頭打ちになります。生成AI活用は「一度作って納品する」プロジェクトではなく、「作り続ける」運用に近い性質を持っているということです。
ここまで3つの壁を見てきましたが、これを乗り越えている少数派の企業には、いくつかの共通点があります。
MIT NANDAの調査は、測定可能な成果を出している5%の企業に共通する特徴として、3点を挙げています。1つ目は、対象業務を狭く絞り、成果指標をあらかじめ明確にしたユースケースから着手していること。2つ目は、実装の主導権が中央集権的なAIラボではなく、業務を知るドメインリーダーや現場のマネージャーに置かれていること。3つ目は、既存のツール・業務プロセス・データの流れの中に生成AIを直接組み込んでいることです。加えて、外部ベンダーと連携して導入した企業は、すべて内製で進めた企業に比べて本番化の成功率がおよそ2倍高いという結果も示されています（参照：同上）。
この3点は、先に挙げた3つの壁とちょうど対になっています。狭く絞ったユースケースは「使う人の壁」への回答であり、現場が主導権を持つ体制は「作る体制の壁」への回答、既存の業務に組み込み続ける姿勢は「継続の壁」への回答です。つまり壁を越える企業は、特別な技術力を持っているというより、業務の翻訳・実装・継続という3つの役割を、途切れさせずに回し続ける仕組みを持っているということです。
ここからはRespectifyの実務視点です。私たちがクライアント企業のAI実装を支援する中でも、この3つの役割を1人あるいは1つの部署だけに背負わせている企業ほど、途中で止まりやすい傾向を感じています。逆に、業務側の担当者と実装側の担当者が同じテーブルで優先順位を握り、毎週動くものを確認しながら作り直していく体制を持てた企業は、壁を越えやすくなります。この考え方については「FDEとは何か」でも詳しく紹介しています。
3つの壁の正体が分かっても、自社でどう対処すべきかは、企業ごとの状況によって変わります。ここでは3つの選択肢を整理した記事へのリンクをまとめておきます。
まず、この体制をどう持つかという問いに対しては、外部に一括発注するか、自社で採用・育成するかという二択だけで考えると、多くの場合どちらの壁にもぶつかります。この判断軸と第三の選択肢については「AI実装は外注すべきか、内製すべきか」で詳しく整理しています。
また、すでにPoC(概念実証)までは進んだものの、そこから本番化できずに止まっている企業も少なくありません。PoCで終わってしまう企業と、本番化まで進められる企業の違いについては「PoC止まりを脱するには何が必要か」で扱っています。
そして、こうした継続的な実装を担う専門職としての考え方の土台は「FDEとは何か」で確認できます。3つの記事は、それぞれ異なる角度から同じ課題に向き合っています。自社が今どの壁でつまずいているかに応じて、読む順番を選んでいただければと思います。
自社がどの壁でつまずいているのか、また体制をどう組めばよいのかは、業務内容や社内のリソースによって判断が分かれます。継続的な伴走が必要な場合は、専属チームが準委任・月額定額で毎週動くものを届けるRespectify STUDIOをご検討ください。個別の状況を踏まえて相談したい方は、まずは無料相談からお気軽にお問い合わせください。