サイトの一般的な合唱は、情報を検索し、Google検索エンジンを作成するために使用されます。また、製品やアナリストの特定のタスクにも使用されます。これらのクローラーは、常に自動バイパスを使用してrobots.txtルールに従います。サイトの主要なKralersの技術的特性は、Kraler将軍に適用されます。
原則として、サイトの一般的なチュレットは、特別なGoogleBot.json施設にリストされているIPアドレスと連携し、ホスマムの逆のDNSチェックはクロールに対応しています - *** - *** - *** - ***。 GoogleBot.comまたは*** - *** - ***。 Geo-Crawl- *** - *** - *** - ***。 geo.googlebot.com。
このリストには、サイトの一般的な小屋、robots.txtディレクティブのユーザーエージェントトークンに対応するHTTPチェックのユーザーエージェントライン、および各KralerのCrutting Settessの影響を受ける製品が表示されます。いくつかのクララーズにはいくつかのユーザーエージェントトークンがあります - そのうちの1つを比較してルールを適用するのに十分です。このリストは網羅的ではなく、最も一般的な要求と質問が来るリクエストのみが含まれます。
注意:HTTPリクエストのユーザーエージェントラインは偽造できます。訪問者が本当にGoogle検索エンジンサイトのチューラーであるかどうかを確認することをお勧めします。
GoogleBotのHTTPチェックのユーザーエージェントのラインには、2つの主要なタイプのスマートフォンとデスクトップデバイスがあります。スマートフォンの例:Mozilla/5.0(Linux; Android)AppleWebkit/... Chrome/... Mobile Safari/...(互換; GoogleBot/2.1; ...)。デスクトップデバイスの場合-Mozilla/5.0 AppleWebkit/...(互換; GoogleBot/2.1; ...)。
それほど一般的ではありません。Mozilla/5.0(互換; GoogleBot/2.1; ...)またはGoogleBot/2.1(...)などのオプションはありません。
robots.txtは、GoogleBotトークンを使用して、サイトのこのクローラーを管理します。
GoogleBotの設定は、検索、発見、画像、ニュース検索、ビデオ、ニュースなど、Google検索製品に影響します。
ラインユーザーエージェント:GoogleBot-Image/1.0。
robots.txtのトークン:GoogleBot-Image。
このサイトのこのKralerによるクローリング管理は、Google検索の結果における画像、発見、ビデオコンテンツ、ロゴとファビコンの表示の検索に反映されています。
文字列ユーザーエージェント:GoogleBot-Video/1.0。
robots.txtのトークン:GoogleBot-Video。
このサイトのこのクラウルは、ビデオコンテンツに関連するビデオと製品を検索する機能に影響します。
このサイトのこのクローラーは、個別のHTTPユーザーエージェントを使用していません。ニュースコンテンツのクローリングは、さまざまなGoogleBotユーザーエージェントラインを使用して実行されます。
robots.txtのトークン:GoogleBot-News。
Crowlingの設定は、ニュースやモバイルアプリケーションなど、Googleニュースサービスに影響します。
ユーザーエージェントの行は、StoreBot-Googleを示すデスクトップおよびモバイルデバイス用です。
robots.txtのトークン:StoreBot- Google。
このサイトは、Googleを検索する際の購入セクションなど、商品の取引のデータを収集するために使用されます。
デスクトップおよびモバイルデバイス用のUSRエージェントラインには、Google-InfectionToolが含まれています。
robots.txtでのトークン:Google-InspectionTool。
このサイトは検索結果のテストに使用され、Google検索の一般的な結果には影響しません。
Lines user-agent:Mozilla/...(互換性、GoogleMeter)モバイルおよびデスクトップデバイス用。
robots.txtのトークン:GoogleOther。
このサイトは、Google検索の結果に影響を与えることなく、さまざまな単一または内部タスクに使用されます。
ユーザーエージェントライン:GoogleMeter-Image/1.0。
robots.txtのトークン:GoogleMoter-image。
サイトのCrowlerは、特定のGoogle製品に影響を与えることなく、画像を収集するために最適化されています。
ユーザーエージェントライン:GoogleMeter-Video/1.0。
robots.txtのトークン:GoogleMeter-Video。
検索結果に影響を与えることなくビデオファイルを収集するために使用されます。
ユーザーエージェントラインには、Google-CloudvertExbotが含まれています。
robots.txtのトークン:Google- CloudVertExbot。
AI-Agentsの構築に関連するKralingに使用され、Googleの検索結果には影響しません。
個別のHTTP文字列ユーザーエージェントはありません。 robots.txtのトークン:Google-拡張。
サイトの所有者は、Googleの検索でランキングに影響を与えることなく、AIモデルをトレーニングするためのコンテンツの使用を制御できます。
ユーザーエージェントラインの指定Chrome/W.X.Y.Zは、サイトのCraulsが使用するChromeブラウザのバージョンを示すテンプレートです。バージョン番号は時間の経過とともに更新されます。
ログでユーザーエージェントで検索またはフィルタリングする場合、正確な数字ではなくバージョンの代替標識を使用することをお勧めします。
質問がある場合は、SEO SEO.computerにメールでお問い合わせください info@seo.computer またはwhatsappを介して +79202044461。
ID 141