自社でオウンドメディアやブログを運営していて、こんな違和感を持ったことはないでしょうか。「アクセス解析を見ると、AIのクローラーが大量に記事を読みに来ている。でも、そこから人が訪れて問い合わせにつながっている実感がまるでない」。手間とコストをかけて書いたコンテンツがAIに学習され、AIがユーザーの質問に要約で答えてしまう。結果、ユーザーはわざわざ元記事を開かなくなり、書いた側にはトラフィックも収益も戻ってこない。この構図に、Web全体の約2割のトラフィックを扱うCDN大手Cloudflareが、大きな一手を打ちました。
「Content Independence Day(コンテンツ独立記念日)」と名づけられたこの動きは、ざっくり言えば「対価を払わないAIクローラーは、標準でブロックする」という方針転換です(Content Independence Day: no AI crawl without compensation!|Cloudflare Blog)。これはAI企業だけの話ではなく、コンテンツを持つすべてのサイト運営者——中小企業のメディアやコーポレートサイトを含めて——に関わる変化です。何がどう変わり、自社は何を考えるべきかを見ていきます。
何が変わるのか — 標準が「許可」から「ブロック」へ
これまで、Webサイトは基本的に「クローラーは来るのが当たり前」で、拒否したければ自分で設定する必要がありました。今回の変更は、この前提をひっくり返します。Cloudflareは、検索インデックス用とAI学習用を兼ねる「混在型」のクローラーを、広告収益に依存するページに対して標準でブロックする方針を、2026年9月15日から適用すると発表しました。この標準変更は、新規顧客・既存顧客が新しく立ち上げるサイト・すべての無料プラン利用者に及ぶとされています(Cloudflare’s new policy pushes AI companies to pay for publishers’ content|TechCrunch)。
あわせて注目したいのが、ボットを役割で区別できるようになった点です。これまで一括りにされがちだった「検索(Search)」「エージェント(Agent)」「学習(Training)」のボットを、サイト運営者が見分けて個別に扱えるようになります。つまり、「検索の巡回は歓迎するが、学習目的のタダ読みは断る」といった、目的別のきめ細かい線引きが現実的になったわけです。
「ブロック」だけでなく「課金」という選択肢
今回の動きのもうひとつの柱が、コンテンツにお金を払わせる仕組みです。Cloudflareは、AI企業にクロールの対価を請求できる「pay-per-crawl(クロール課金)」を試験提供してきましたが、さらに一歩進めて、自社のコンテンツが実際にAIの回答に使われたときに対価が支払われるという考え方の仕組みも打ち出しています(Cloudflare stops charging AI per crawl and starts paying per answer|PPC Land)。
これは、サイト運営者にとって選択肢が「全面ブロック」か「無防備に開放」の二択ではなくなることを意味します。整理すると、運営者が取れる立場は次のように広がります。
| 立場 | 中身 | 向いている運営者 |
|---|---|---|
| ブロック | 対価を払わないAIクローラーを遮断する | 独自コンテンツが資産で、タダ読みを防ぎたい |
| 課金・許可 | 対価と引き換えにアクセスを認める | コンテンツを収益源にできる規模のメディア |
| 従来どおり開放 | すべてのクローラーを受け入れる | 露出最優先で、まずは知られたい段階 |
どれが正解かは、コンテンツが自社にとってどれだけの資産価値を持つかで変わります。「うちの記事はタダ読みされて困るほどの資産なのか、それとも一人でも多くに知られることが優先なのか」——この問いに答えることが、立場を決める出発点になります。
中小企業のサイト運営者は、何をすべきか
大手メディアの話に聞こえるかもしれませんが、無料プランを含む広い範囲に標準変更が及ぶため、他人事ではありません。とはいえ、慌てて全AIをブロックするのは早計です。ここでも「守り」と「攻め」を切り分けて考える必要があります。
守りの観点では、まず自社サイトが今どのCDNやインフラの上にあり、AIクローラーに対してどんな設定になっているかを把握することが先決です。知らないうちに標準ブロックが効いて、逆に必要な検索クローラーまで締め出してしまえば、検索流入が落ちる本末転倒が起こりかねません。特に、AI経由の検索・回答に引用されることを狙う戦略を取っているなら、ブロックとの兼ね合いは慎重に判断すべきです。AI検索での見つけられ方は AI Overview時代のSEO戦略 や agent-ready対応の今 で扱った論点と直結します。
攻めの観点では、コンテンツが本当に資産なら、タダ読みを防ぎつつ、正当な引用や検索露出は残すという細かい設定を、自社の戦略に合わせて設計する価値があります。ボットを役割別に扱えるようになった以上、「学習目的は断り、検索と正規のAI回答には対価つきで応じる」といった中間解も取れます。この設計は、サイトのインフラ構成やコンテンツ戦略と一体で考える必要があり、リニューアルのタイミングと合わせると効率がいい領域です(コーポレートサイトのリニューアルガイド)。
どこから手をつけるか
まずは、自社サイトのアクセスログやCDNの管理画面を開いて、「どんなボットが、どれくらいの頻度で来ているか」を一度眺めてみてください。AI系のクローラーが大量に来ているのに人の訪問につながっていないなら、それは今回の変化が自社にとって無関係ではないという最も分かりやすいサインです。
AIクローラーをブロックすべきか、対価つきで開放すべきか、検索流入を守りながらどう線引きするか——正解はコンテンツ戦略とインフラ構成によって変わります。自社サイトの現状のボット設定を確認し、流入を落とさずにコンテンツを守る設計に整えるところから、一緒に検討します。