技術
回答エンジンがサイトに到達し、読み、引用できるようにするテクニカル AEO
テクニカル AEO とは、ChatGPT、Perplexity、Claude、Google の AI 機能が貴社のページをそもそも取得できるかどうかを決める、クローラーのアクセスとページ構造の取り組みです。robots.txt のルール、CDN の設定、スクリプトの多いテンプレートが AI の回答から自社を締め出しているのではないかと疑っているマーケティング・Web チーム向けです。トークンごとのアクセス確認、レンダリングと構造化データの修正、そして正しいボットが通過するようになったことを示すサーバーログ上の証拠をご提供します。
無料の AEO 可視性チェックを受ける
2行ほどで十分です。1営業日以内に専門スタッフがご返信いたします。
簡潔な回答
テクニカル AEO とは何ですか?
テクニカル AEO とは、回答エンジンがページに到達し、読めるようにする取り組みです。robots.txt とファイアウォールのルールで OAI-SearchBot、PerplexityBot、Claude-SearchBot などの検索用クローラーを許可し、本文をプレーンな HTML で配信し、構造化データを正確に保ち、新しい URL を素早く送信します。それ自体が引用を生むわけではありませんが、これなしにコンテンツが引用されることはありません。
- GPTBot をブロックすると OpenAI のモデル学習から除外されますが、ChatGPT 検索の回答からは除外されません。
- Google によると、AI Overviews に必要なのは、インデックスされスニペット表示の対象となるページだけです。
- Cloudflare は新規ドメインで AI の学習用クローラーをデフォルトでブロックするようになったため、設定の確認が必要です。
- すべてのアクセス修正は、robots.txt ファイルだけでなく、サーバーログの生データで確認します。
テクニカル AEO は、コンテンツの作業にはない何をカバーしますか?
回答エンジンのクローラーと貴社の文章の間にあるすべて、つまり許可、配信、マークアップ、発見をカバーします。コンテンツの再構成はページが何を語るかを決め、このレイヤーは機械がそれを受け取れるかどうかを決めます。
失敗が目に見えないため、独立したワークストリームとして扱います。従来の検索では上位表示されているサイトでも、たった1行の disallow、CDN のボット対策ルール、空のプリレンダリングシェルが、1つ以上の回答エンジンを締め出していることがあります。当社の AEO 診断がこうした問題を指摘し、このサービスが修正し、リニューアル、移行、セキュリティ変更のたびに修正された状態を維持します。
- 検索用、ユーザー取得用、学習用のすべてのトークンに対する robots.txt のルール。
- robots.txt の手前にある CDN と Web アプリケーションファイアウォールのルール。
- 重要な各ページの主要な答えをサーバーレンダリングした HTML。
- 訪問者に見える内容と一致する Organization、Product、Article、FAQ の構造化データ。
- XML サイトマップ、最終更新日、新しいコンテンツのための IndexNow 送信。
テクニカル AEO が必要なのは誰で、他のサービスとどう違うのですか?
テクニカル AEO は、回答エンジンへのアクセスが不確かなすべてのサイト向けです。Cloudflare などのファイアウォールの背後にあるサイト、JavaScript フレームワークで構築されたサイト、最近移行したサイト、セキュリティチームがマーケティングに知らせずにボットルールを追加したサイトなどです。先週どの AI クローラーが料金ページを取得したか答えられないなら、対象になります。
業種によってはこうした問題がより頻繁に起こります。EC ブランドはファセット URL と商品フィードを伴う大規模なカタログを運用しており、クロールの浪費と古いデータが重要なページを埋もれさせます。さらに ChatGPT ショッピングでは、承認されたパートナー向けの別のフィード経路が加わります。不動産サイトは物件をスクリプトで読み込むことが多く、ホテルや旅行ブランドはクローラーが扱いにくい予約エンジンを経由させることがよくあります。
このサービスは修正を実装するもので、AI 上の存在感全体を診断したり、コンテンツを書いたりはしません。AEO 診断はエンジンの語る内容を記録してすべてのレイヤーの問題を見つけ、AEO コンテンツ制作はページを作り、AI 可視性トラッキングは引用を継続的にレポートします。テクニカル AEO は、他の3つが無駄にならないようにするレイヤーです。
提供内容
納品物
無料レビューの後、範囲を定めて固定価格でお見積もりします。
クローラーのアクセスマップ
AI の検索用、ユーザー取得用、学習用のすべてのトークンについて、現在の robots.txt、CDN、ファイアウォールの扱いと、あるべき扱いを表にまとめます。
robots.txt と CDN の修正
検索用クローラーを許可したまま、学習に関する選択を明示する形で、robots.txt の編集と Cloudflare やファイアウォールのルール変更を行います。
レンダリングの確認
テンプレートごとに生の HTML に何が届くかを確認し、スクリプト実行後にしか表示されない答えを修正します。
構造化データの整理
Organization、Product、Article、FAQ のマークアップを表示内容に合わせ、エンティティの一貫性のために sameAs リンクを加えます。
発見の設定
正確な lastmod を持つ XML サイトマップ、IndexNow の送信、Search Console と Bing Webmaster Tools の認証を整えます。
ログ検証レポート
どの AI クローラーがどの URL をどのステータスコードで取得したかを示す、修正前後のサーバーログの証拠です。
リリース用ランブック
各リリース後に開発者が実行し、クローラーのアクセス、レンダリング、構造化データが維持されているかを確認する短いチェックリストです。
robots.txt でどの AI クローラーを許可すべきですか?
ページを回答に載せるクローラーを許可し、学習用クローラーについては別途、経営判断を行います。この2つを混同することが、AI クローラーのアクセスで最もよく見る失敗です。
OpenAI のクローラーに関するドキュメントによると、OAI-SearchBot は ChatGPT 検索にサイトを表示し、robots.txt に従い、変更を約24時間で反映します。拒否したサイトは検索の回答に表示されません。GPTBot は学習データを収集し、ブロックしても学習を拒否するだけです。Perplexity のボットガイドでは、PerplexityBot は学習に使われない検索用クローラーとされています。Anthropic のヘルプセンターは、検索品質のための Claude-SearchBot と学習のための ClaudeBot を分けています。Google のクローラーに関するドキュメントでは、AI Overviews と AI Mode は Googlebot を使い、Google-Extended はクローラーではなく、Gemini の学習と Gemini アプリのグラウンディングを対象とし、Google 検索には影響しない制御トークンだと説明されています。Copilot のクロールは Bingbot が行い、Copilot 専用のクローラーはありません。
| トークン | 役割 | 当社の通常の推奨 |
|---|---|---|
| Googlebot | AI Overviews と AI Mode を含む Google 検索のためのクロール | 許可 |
| Bingbot | Bing と Microsoft Copilot のためのクロール | 許可 |
| OAI-SearchBot | ChatGPT 検索にサイトを表示 | 許可 |
| PerplexityBot | Perplexity の結果にサイトを表示。学習には使われない | 許可 |
| Claude-SearchBot | Claude の検索品質を向上 | 許可 |
| Applebot | Siri と Spotlight のためのクロール | 許可 |
| ChatGPT-User、Perplexity-User、Claude-User | ユーザーの依頼時にページを取得 | 許可。robots.txt に従わない場合がある点に注意 |
| GPTBot、ClaudeBot、CCBot | 学習データを収集 | ご判断次第。ブロックしても検索の回答から除外されない |
| Google-Extended、Applebot-Extended | 学習利用の制御トークンで、クローラーではない | ご判断次第。Google 検索への掲載には影響しない |
Cloudflare が貴社サイトで AI クローラーをブロックしていませんか?
robots.txt が開いているように見えても、ブロックされている可能性があります。Cloudflare は2025年7月1日にデフォルト設定を変更し、対価を支払わない AI クローラーをブロックするようにしました。2026年6月のボットレポートでは、すべての新規ドメインで AI の学習用クローラーがデフォルトでブロックされるとし、学習がクローラーのリクエストの52%を占めると述べています。
Cloudflare のマネージド robots.txt では、search=yes、ai-train=no のようなコンテンツシグナルの行を追加し、GPTBot、ClaudeBot、Google-Extended、Applebot-Extended、CCBot を拒否できます。多くのブランドにとって妥当な設定ですが、当社は Cloudflare のルール側でも検索用クローラーが許可されたままになっているかを確認します。Pay per crawl はクローラーに HTTP 402 Payment Required を返すことがあるため、歓迎するつもりのボットに対してログに402が出ていれば注意が必要です。また、Cloudflare は2025年8月に Perplexity が申告されていないクローラーを使っていると報告し、認証済みボットのリストから外しました。認証済みボットだけを通すルールでは、PerplexityBot について意図的な判断が必要です。
AI 向けの構造化データは引用に役立ちますか?
直接には役立ちません。当社はこれを引用を得る手段として販売しません。Google の AI 最適化ガイドは、生成 AI 検索に構造化データは必須ではなく、追加すべき特別な schema.org マークアップもないとしながら、一般的な SEO のために使い続けることを勧めています。
それでも当社は構造化データを丁寧に実装します。エンティティ情報を一貫した1か所に記述できるからです。LinkedIn、Wikidata、G2、Google ビジネス プロフィールへの sameAs リンクを持つ Organization のマークアップは、社名、カテゴリ、所在地をどこに表示されても一貫させるのに役立ちます。AI 検索で成功するための Google のガイダンスは、構造化データが表示内容と一致しなければならないとしているため、訪問者に見えないテキストを説明する FAQ やレビューのマークアップは削除します。
回答エンジンが読めるように、ページはどう構築すべきですか?
サーバーが送る HTML の中に、質問と一致する見出しの下、冒頭近くに答えを置きます。すべてのクローラーが JavaScript を実行すると想定しないため、主要な各テンプレートをスクリプトをオフにしてテストし、消えてしまうものを修正します。
レンダリング以外にも、canonical タグ、ステータスコード、リダイレクトチェーン、重複パスを確認します。パラメータやソフト404に取得を浪費するクローラーは、引用してほしいページにたどり着かないかもしれないからです。canonical は見た目以上に重要です。Gradial の2026年7月の旅行業界の調査では、canonical URL の不一致が原因で一度も引用されなかったブランドがありました。重要な各ページには、目に見える最終更新日、整った見出しの階層、画像ではなく本物の table マークアップによる表を用意します。Google は特別なファイル、マークアップ、Markdown のコピーは不要で、コンテンツを細かく分割する必要もないとしているため、ページはそのまま読みやすい形に保ちます。
サイトが AI の回答から外れてしまう技術的な失敗は?
最も損害が大きいのは、検索用クローラーまで巻き込む広範なブロックです。スクレイパー対策のワイルドカードの disallow、CDN のボット対策モード、ファイアウォールのチャレンジページが、Googlebot は通しながら OAI-SearchBot や PerplexityBot を締め出すことがあります。従来の順位は正常に見えるため、誰も気づきません。
次はレンダリングのギャップです。商品の詳細、価格、FAQ の答えが読み込み後に JavaScript で挿入されるため、ブラウザエンジンのない取得では空のテンプレートしか見えません。続いて、ページと矛盾するマークアップです。訪問者が読めない質問に対する FAQ の構造化データや、古い住所を記載した Organization の構造化データなどです。最後は発見のギャップで、lastmod のないサイトマップ、送信されたことのない新しいページ、認証されていない Bing Webmaster Tools です。Copilot の背後のクローラーは Bingbot なので、これは重要です。
国際的なサイトには固有の失敗もあります。UAE とインドに1つのドメインで対応しているサイトでは、クローラーを誤ったバージョンにジオリダイレクトしたり、リダイレクト先を指す hreflang をページに付けたりしていることがあります。当社は各市場の URL をクローラーの視点でテストし、すべてのバージョンがそれぞれのアドレスで到達可能であることを確認します。
修正が実際に効いたことをどう確認しますか?
サーバーログを読みます。robots.txt の変更は意図を示しますが、適切な URL で OAI-SearchBot、PerplexityBot、Claude-SearchBot に対する200レスポンスがあって初めてアクセスが証明されます。
Perplexity のようにベンダーが IP 範囲を公開している場合は、ユーザーエージェントをそれと照合し、なりすましのボットに惑わされないようにします。その後、更新したサイトマップを送信し、Bing 向けに IndexNow を送り、Search Console の生成 AI パフォーマンスレポートと Bing Webmaster Tools の AI Performance で引用されたページを監視します。継続的な引用のレポートは、当社の AI 可視性トラッキングサービスが担います。
ログからは、クロールの規模とそれが返す価値の関係も分かります。Cloudflare の2025年7月の数字では、OpenAI のクロール対参照の比率は約750対1でした。そのため当社は、訪問者を送るボットとデータを集めるだけのボットを分け、AI のトラフィックを一律に扱うのではなく、両方を貴社チームにご報告します。
テクニカル AEO の最初の90日間はどう進みますか?
1〜2週目はクローラーのアクセスをマッピングし、緊急の robots.txt と CDN の修正を実装します。3〜8週目はレンダリング、構造化データ、発見に取り組みます。9〜12週目はすべてをログで検証し、今後のリリース後の再確認の仕組みを整えます。
初期の価値の大半はアクセスの修正から生まれます。OpenAI によると、OAI-SearchBot は robots.txt の変更を約24時間で反映するからです。レンダリングの作業は貴社のリリースサイクルとテンプレートの数に依存するため、より時間がかかります。90日目には、クローラーのアクセスマップ、修正前後のログの証拠、主要テンプレートのきれいな構造化データ、各リリース後に開発者が従える短いランブックがそろいます。
製品ローンチの準備中であれば、発表前にチェックを予定し、新しいページが初日からクロール可能で、サイトマップに掲載され、IndexNow で送信されるようにします。Perplexity SEO や Google AI Overviews の取り組みといったエンジン別のフォローアップは、機能していると分かっているアクセスの上に積み上げられます。
llms.txt ファイルは必要ですか?
低コストで追加できますが、引用が変わると期待しないでください。Answer.AI の Jeremy Howard 氏が2024年9月に llms.txt を提案しましたが、Google の John Mueller 氏は、使っていると表明した AI サービスはないと述べ、meta keywords タグになぞらえています。
コーディングエージェントが読む開発者向けドキュメントには本当に役立ち、AI 企業が自社のドキュメント向けに公開しているのはそのためです。マーケティングサイトでは、本来のアクセスの作業が終わった後の任意の整理項目として扱います。
進め方
プロジェクトの流れ
- 01
ログと設定の収集
30日分のサーバーまたは CDN のログ、robots.txt、ファイアウォールのルール、Search Console のアクセス権を集めます。
- 02
クローラーのアクセスのマッピング
各トークンを実際のルールに対してテストし、検索用クローラーがブロック、チャレンジ、課金されている箇所を記録します。
- 03
修正と実装
robots.txt、CDN、レンダリング、構造化データの変更を貴社の開発者と一緒に、またはアクセス権がある場合は直接実装します。
- 04
ログでの検証
適切な URL で適切なボットに200レスポンスが返っていることを確認し、短い変更記録をお渡しします。
- 05
リリース後の再確認
アクセスが最も壊れやすいリニューアル、移行、セキュリティ変更の後にチェックを再実行します。
FAQ
よくあるご質問
GPTBot や ClaudeBot はブロックすべきですか?
それは検索での可視性ではなく、モデルの学習に関する経営判断です。OpenAI によると GPTBot をブロックしても学習を拒否するだけで、ChatGPT 検索は OAI-SearchBot に依存しています。Anthropic は学習用の ClaudeBot と検索用の Claude-SearchBot を分けているため、一方をブロックして他方を許可できます。
GPTBot、OAI-SearchBot、ChatGPT-User の違いは何ですか?
GPTBot は学習データを収集し、OAI-SearchBot は ChatGPT 検索にサイトを表示し、ChatGPT-User はユーザーが ChatGPT に依頼したときにページを取得します。OpenAI は、ChatGPT-User はインデックスには使われず、robots.txt に従わない場合があるとしています。ChatGPT 検索の回答に表示されたい場合は OAI-SearchBot を許可してください。
Google-Extended をブロックすると AI Overviews からサイトが除外されますか?
いいえ。Google のクローラーに関するドキュメントでは、Google-Extended は Google 検索への掲載に影響せず、ランキングのシグナルでもないとされています。AI Overviews と AI Mode は Googlebot を使うため、Google-Extended のブロックが影響するのは Gemini の学習と Gemini アプリのグラウンディングだけです。
テクニカル AEO にはどれくらいの期間がかかりますか?
ログと CDN へのアクセスがあれば、アクセスと robots.txt の修正の大半は数日で実装できます。OpenAI によると、OAI-SearchBot は robots.txt の変更を約24時間で反映します。レンダリングと構造化データの作業は、サイトのテンプレートの数と開発者がどれだけ早く変更をリリースできるかによります。
AI の回答に表示されるには構造化データが必須ですか?
いいえ。Google の AI 最適化ガイドは、生成 AI 検索に構造化データは必須ではなく、そのための特別なマークアップも存在しないとしています。それでも当社は、通常の検索機能と一貫したエンティティ情報のために構造化データを正確に保ち、訪問者に見える内容と一致させます。
クローラーの修正だけで自社ブランドが引用されますか?
引用は誰にも約束できず、アクセスの修正は障壁を取り除くだけです。回答エンジンは引き続き、コンテンツとその周囲の評判にもとづいて情報源を選びます。技術的な作業は、貴社のページが引用に値するときに、クローラーがそれを読むのを何も妨げないようにするものです。
テクニカル AEO の費用はいくらですか?
無料の AEO 可視性チェックの後、貴社の技術スタック、テンプレートの数、貴社の開発者を通して作業するか直接作業するかにもとづいて、1つの固定価格をお見積もりします。当社の料金は公開していませんが、他社エージェンシーが公開している価格帯を AEO 料金ガイドにまとめています。
Cloudflare が自社サイトで ChatGPT をブロックしていますか?
その可能性があります。Cloudflare は2025年7月にデフォルト設定を変更して対価を支払わない AI クローラーをブロックするようにし、新規ドメインではデフォルトで AI の学習用クローラーをブロックします。robots.txt と Cloudflare のボット設定の両方で OAI-SearchBot が許可されていることを確認し、ログで確かめてください。
ChatGPT-User と Perplexity-User は許可すべきですか?
通常は許可すべきです。人がアシスタントに貴社について尋ねたときにページを取得するからです。OpenAI は ChatGPT-User が robots.txt に従わない場合があるとし、Perplexity は Perplexity-User が通常 robots.txt を無視するとしているため、確実にブロックするには robots.txt だけでなくファイアウォールのルールが必要です。
AI クローラーは JavaScript を実行しますか?
期待しないでください。当社は主要なテンプレートをスクリプトをオフにしてテストし、主要な答え、価格、FAQ のテキストがサーバーの送る HTML に含まれるようにします。これにより、各クローラーがスクリプトをどう扱っても安全です。
サーバーや CDN への直接アクセスが必要ですか?
診断にはログと CDN 設定の閲覧権限で十分です。修正は、書面の変更依頼を通じて貴社の開発者と進めることも、アクセス権をいただいて直接行うこともできます。すべての変更は記録され、貴社チームが確認や取り消しをできます。
関連情報
関連ページ
はじめに
AI があなたについて何と答えているかを確認
Web サイトと、購買担当者がよく尋ねる質問を3つお送りください。1営業日以内に、ChatGPT、Google AI Overviews、Perplexity が現在どう回答し、あなたの代わりに誰を引用しているかを、固定価格のプランとあわせてご返信します。
- 無料の AEO 可視性チェック
- 作業開始前に固定価格でお見積もり
- 約束ではなく、引用数と AI 経由の流入で測定
メールをご希望の場合: info@aeoservicesagency.com
無料の AEO 可視性チェックを受ける
2行ほどのご説明で十分です。