オリジナルコンテンツは、会話や好奇心の生命線です。それがない世界を想像してみてください。既に作成された同じ素材を再利用する方法は無数にあるでしょうが、斬新なアイデアや議論は出てこなくなるでしょう。
Webサイトオーナーはアイデア、ニュース、興味深い豆知識のエコシステムに活力を与える存在ですが、サイトへのトラフィックの管理が複雑化し、コンテンツの対価を得るのが難しくなっています。一部のボットトラフィックは明らかに悪性ですが、特定のAIクローラーがビジネスに利益をもたらしているのか害を及ぼしているのかは、常に明白とは限りません。サイトオーナーがそれを判断するには、価値を提供するトラフィックと、実際の人間がコンテンツを消費するというビジネスモデルの基盤を侵食してリソースを圧迫するトラフィックを区別するための、詳細で信頼性の高いデータが必要です。
Cloudflareは、Webサイトオーナーには自分のコンテンツへのアクセスを制御する権利があると固く信じています。私たちは、Webサイトオーナーが高品質なコンテンツを維持し、AIトラフィックを制限する手助けをしたいと考えています。
切望されていた明確性を提供してWebサイトオーナーが状況をコントロールできるよう支援するため、ビジネス意思決定者やパブリッシャー向けに設計された新しいAttribution Business Insightsダッシュボードを発表できることを嬉しく思います。
数十年にわたり、インターネットのビジネスモデルは、「Webサイトオーナーは検索エンジンがコンテンツをクロールすることを許可し、その見返りとして検索エンジンは読者をWebサイトに送る」という単純かつ暗黙の合意に基づいていました。この共生関係では、旧来の検索エンジンがバランスの取れた「クロール対リファラル」比率で稼働し、広告、アフィリエイト収入、サブスクリプションの維持に必要なページビューを生み出しました。検索インデックスクローラーのコンテンツスキャン2回あたり1回のリファラルという比率でしたので、クローラーがアクセス可能なWebサイトにすることは収益増への明確なパイプラインだったのです。これをSEO(検索エンジン最適化)の時代と考えることができます。
今日、AIクローラーとAIエージェントの急速な普及により、この暗黙の契約は破られ、デジタル出版業界はかつてない危機に陥っています。インターネットは、AIチャットボットがオリジナルコンテンツを抽出して即座に回答を合成し、元のソースを完全に迂回する「ゼロクリック」エコシステムへ移行する恐れがあります。SEO(検索エンジン最適化)だけの世界からAEO(回答エンジン最適化)の世界への転換がはっきり見られ、現在ではGEO(生成エンジン最適化)に関する議論が中心になっています。
この新しい現実がもたらす不均衡が、今日のインターネットの「クロール対リファラル」比率にはっきりと表れています。従来の検索エンジンはクローラーとリファラルされた正規訪問者とのバランスが取れていましたが、主要なAIクローラーはまったく異なる搾取的なバランスで運用されています。主要AI企業のボットのクロール対リファラル比はさまざまで、2025年のContent Independence Day(コンテンツ独立記念日)前後は、118:1からほぼ50,000:1までの比率を観測しています。つまり、AIクローラーはプレミアムコンテンツを何万回もクロールしておきながら、送った訪問者はたった1人だったかもしれないということです。この比率は根本的に不公平です。
パブリッシャーにとって、これは二重の打撃です。第一に、コンテンツ制作とジャーナリズムの原資を生む重要なリファラルトラフィック、広告インプレッション、オーディエンスとの直接関係が失われます。第二に、何の商業的価値も提供しない自動ボットにコンテンツが消費されるにもかかわらず、ホスティングと配信のために、増大するインフラストラクチャコストを負担せざるを得ません。発見を期待してすべてのクローラーを許可することが理にかなっていた時代は終わりました。
Attribution Business Insightsのご紹介
Webサイトオーナーには事実を、ビジネスに貢献するボットと害を為すボットを把握するための客観的な確定データを手にしてもらいたいと、私たちは考えています。また、その分析を今まで以上に簡単にしようと、Attribution Business Insightsは不要な情報を省き、お客様が最も重要視される詳細に焦点を当てて設計しています。
Attribution Business Insightsダッシュボードは現在、Cloudflare Bot Managementをお使いのすべてのお客様がご利用いただけます。新しいダッシュボードは、お客様のWebサイトへ流れるボットトラフィックに的を絞ったビューを表示するよう設計されています。従来の分析ツールでは広範な手動フィルタリングが必要な場合があるのに対し、このダッシュボードは重要なインサイトを直ちに提供します。
私たちが目指したのは、現代のサイトオーナーにとって最も差し迫った問いに答えることでした。「Webサイト上のAIトラフィックについてどう考えるべきか」、「各種オーディエンス(人間、非AIボット、AIボット)の価値は何か」、そして最も重要なのは「データが何に使われているか」という問いです。
新しいAttribution Business Insightsダッシュボードのビュー。ボットトラフィック全般に関するインサイト、サイト単位のクロール対リファラル比、AIボットトラフィック対オーガニックトラフィックの割合などが含まれています。
充実したデータとインサイトで上記の問いに答えます。
コンテンツページへのボットトラフィック:ボット対人間のトラフィックの全体像と、コンテンツへのアクセスに成功したボットの総量が表示されます。
クロール対リファラル比:サイト単位のクロール対リファラル比を、24時間、7日間、または30日間のスケールで確認できます。ボットオペレーターごと(ボットを1つ以上所有する企業ごと)のクロール対リファラル比を見ることもできます。
上位ボットの詳細分析:アクセス量上位ボットのリストで、発信元国、Webサイトの帯域幅消費、現在のアクション(ブロック/許可)が表示されます。
クローラーの行動に基づく新分類:「AIクローラー」という汎用ラベルを付けるのではなく、学習(次世代LLMチャットボットの学習)、検索(検索拡張生成のためのデータベース更新)、エージェント(エンドユーザーに回答するエージェンティックインタラクションに利用)という新たな区分でクローラーを分類します。
AIクローラーがビジネスにどう影響するかを理解するのに、セキュリティの専門家である必要はありません。Webサイトオーナーが高次のインサイトをわずか数分で取り入れたい場合は、自社のコンテンツセキュリティポリシーの有効性を明確に確認するだけでもいいでしょう。
AI企業がコンテンツをどう利用しているかを詳しく知りたい、あるいは、AI企業との関係をどう発展させたいかを考える材料として情報を収集したいという方のために、ボットオペレーター別の詳細ビューもご用意しています。
Webサイトにおけるボットアクティビティの詳細分析では、ボットごとにタイプ、クロール対リファラル比、現在のアクションなどの重要な詳細が表示されます。
お客様のWebサイトのコンテンツにアクセスしようとする企業を統合ビューで把握できるため、クローラーアクティビティについてより適切なベースラインを構築できます。お客様がこのデータを基に事実を把握し、それを武器にどのようなビジネス会話にも臨んでいただけるよう願っています。Company1に、クロール量がCompany4の20倍で、Company4はすでにコンテンツの対価を支払っていると伝える、Company2の最近のアクティビティデータに基づいてコンテンツライセンス契約を見直すなど、この新しいダッシュボードを活用すればビジネスの会話が進みます。
この新たな可視性の層は、既存のWebサイト保護ツールとどう連携するのでしょうか?Bot Managementの他の機能と同様に、アクションステップはセキュリティルール内で引き続き実行されます。コントロールプレーンがノイズで煩雑化しないよう、Attribution Business Insightsはアクションを起こす場所ではなく、慎重にフィルタリングされた有用な分析のハブを意図して作られています。このダッシュボードは一元的な情報源となり、まず調べてから、他の不正行為対策を統制するのと同じルールエンジン内でアクションを起こすことができます。AIトラフィックをめぐる議論にはセキュリティ専門のユーザーだけでなく幅広いステークホルダーが関わっているため、ビジネス意思決定者にも、ぜひこのダッシュボードをご活用いただきたいと思います。
進化するAIボットの脅威を管理するため、さらにはインターネットの新たなダイナミクスを形成していくためにWebサイトオーナーが必要とする透明性とコントロールを提供する上で、Attribution Business Insightsダッシュボードは次の重要なステップになります。すでに、関係の深いパブリッシャーパートナーと協力し、価値あるオリジナルコンテンツを発信するWebサイトオーナーの視点からセキュリティを捉える可視性プレーンの作成に向けて、次のイテレーションを検討しています。
下のプレビューには、さまざまなコンテンツやキャンペーンなどに対するAI企業の関心を明らかにするために、コンテンツ1点ごとのクローラーアクティビティを詳細に分析した新しいビューが含まれています。
トラフィック量に基づいた人気コンテンツの詳細分析。AIボットトラフィック、その他のボットトラフィック、人間のトラフィックなどの主要メトリクスを、直接トラフィックとリファラルの両方で示しています。
可視性は最初のステップにすぎません。この新しい時代にWebサイトオーナーがコンテンツのコントロールを強化するためのさらなる機能が続きます。Cloudflare Bot Managementをご利用のすべてのお客様、特にビジネスの会話を進めていらっしゃる方は、今すぐこの新たな視点のアナリティクスをぜひご覧ください。