ClaudeBotとは?
要約
ClaudeBotとは、Claudeを提供するAnthropicが運用するWebクローラーの一つで、AIモデルの開発・学習に利用される可能性のあるWebコンテンツを収集するために巡回するものです。他に、ユーザー操作に応じてページを取得するClaude-User、検索のためにページを解析するClaude-SearchBotがあり、役割が分かれています。robots.txtで個別に制御できます。
さらに詳しい内容をご覧になりたい方は下記も併せてお読みください。
ClaudeBotとは、Claudeを提供するAnthropicが運用するWebクローラーの一つで、AIモデルの開発・学習に利用される可能性のあるWebコンテンツを収集するために巡回するものです。アクセスログには「ClaudeBot」というユーザーエージェント名で記録されます。
OpenAIのGPTBotと同じく、Anthropicも役割の異なる複数のAIクローラーを分けて運用しています。名前が似ているため混同されやすいですが、どれを許可・拒否するかで結果が変わる点は共通です。
ClaudeBotとは何か、もう少し詳しく
Anthropicは公式サポートページで、自社のクローラーとその用途を3つに分けて説明しています。
- ClaudeBot:AIモデルの学習に寄与する可能性のあるWebコンテンツの収集が用途です。拒否すると、そのサイトの今後のコンテンツを学習データから除外する意思表示になると説明されています
- Claude-User:ユーザーがClaudeに質問した際に、回答のためにWebサイトへアクセスするときのユーザーエージェントです。拒否すると、ユーザーの質問に応じた自社ページの取得が行われなくなります
- Claude-SearchBot:検索結果の品質向上のためにWebページを解析する巡回です。拒否すると、検索での自社サイトの表示や正確性が下がる可能性があると説明されています
つまり「学習のための巡回」「ユーザー操作による取得」「検索のための解析」が別のユーザーエージェントに分かれており、robots.txtでそれぞれ個別に許可・拒否を指定できます。
また、Anthropicはクローラーの行動について、robots.txtの指示に従うことや、CAPTCHAなどの回避を試みないことなどを公式に説明しています。クローラー側が遵守方針を明文化している例は多くなく、方針を確認しやすい部類だと言えます。
ブロックの判断は「学習」と「露出」を分けて考える
GPTBotの場合と同様に、「ClaudeBotをブロックする=Claudeに自社サイトが出なくなる」という単純な関係ではありません。Anthropicの説明に沿えば、ユーザーの質問に応じた取得はClaude-User、検索表示に関わる解析はClaude-SearchBotが担っており、ClaudeBotの拒否は主に「学習データからの除外」の意思表示にあたります。
「学習には使われたくないが、Claude経由の露出は確保したい」という場合のrobots.txt記述例は次のとおりです。
- User-agent: ClaudeBot / Disallow: / (学習用の収集を拒否)
- User-agent: Claude-User / Allow: / (ユーザー操作による取得は許可)
- User-agent: Claude-SearchBot / Allow: / (検索のための解析は許可)
集客を目的とする中小企業のサイトでAI経由の露出を重視するのであれば、Claude-UserやClaude-SearchBotを積極的にブロックする理由は少ないと私たちは考えています。判断の軸はクローラー全般と同じで、「学習に使われることへの考え方」と「AI経由の露出をどれだけ重視するか」の2つです。
ENVY DESIGNの視点と観察
【調査データ】自社サイト(envydesign.jp)へのAI経由の訪問では、ChatGPT・Perplexity経由と比べてClaude経由の規模が小さい傾向が続いており、2026年5月後半には半月間ゼロだった期間も観測しています(詳細はAIO隔週レポート第3号)。
【仮説】クローラーの巡回があることと、実際の訪問が生まれることは別の事象だと考えられます。巡回はサイトを知るための入口にすぎず、流入の規模は各AIサービスの利用者数や検索機能の使われ方に左右されると推測されます。あくまで自社1サイトでの、母数の少ない観測です。
よくある質問
ClaudeBotをブロックするとClaudeに自社サイトが表示されなくなりますか?
直結はしません。Anthropicの説明では、ユーザーの質問に応じたページ取得はClaude-User、検索のための解析はClaude-SearchBotが担っており、ClaudeBotの拒否は主に学習データからの除外の意思表示にあたります。露出を重視する場合は、3つの役割を踏まえて個別に判断することをおすすめします。
ClaudeBotが自社サイトに来ているか確認できますか?
サーバーのアクセスログで、ユーザーエージェントに「ClaudeBot」を含むアクセスを検索すると確認できます。Claude-UserやClaude-SearchBotも同様にユーザーエージェント名で見分けられます。
GPTBotとClaudeBotは何が違いますか?
運用元が異なります。GPTBotはOpenAI、ClaudeBotはAnthropicのクローラーで、いずれも主な用途はAIモデルの学習用データの収集です。両社とも用途に応じて複数のクローラーを分けており、「学習への利用」と「AI検索・ユーザーへの情報提供」を分けて制御できる点は共通しています。
関連する課題については、AI検索(ChatGPT等)にホームページが出てこないのページでも整理しています。
関連用語
AI検索最適化(AIO・GEO)の進め方やサービス内容についてはAIO・GEO対策(AI検索最適化)のページもご覧ください。AI検索からの集客についてのご相談は、お問い合わせフォームからお気軽にどうぞ。