
メタタグの正当性チェックからマイクロマークアップの解析まで幅広い機能を備えており、さまざまな規模のサイトの詳細な分析に欠かせないツールです。
このガイドでは、サイトを効果的に分析して改善するのに役立つ基本的な SEO Spider 設定と機能について説明します。
メニューの「ファイル」→「設定」→「メモリ割り当て」を開きます。
大規模なプロジェクトには 8 GB のメモリ、または使用可能なメモリの半分を割り当てることをお勧めします。

「ファイル」→「設定」→「ストレージモード」に移動します。
デフォルトはメモリストレージです。特にドライブが SSD の場合、スキャン プロセスを高速化するために、データベース ストレージ (ハード ドライブ) に切り替えることをお勧めします。

設定 (ファイル → 設定 → プロキシ) では、IP が特定のサイトでブロックされている場合にプロキシ サーバーを設定でき、ブロックを回避するのに役立ちます。

[設定] → [クロール設定] → [速度] に移動します。
最大スレッド数の最適な値は最大 5 です。スレッド数を増やすと、スキャン中にサイトがブロックされたり過負荷になったりする可能性があります。
[URL/s の制限] パラメーターは 1 秒あたり 2.0 URL のままにしておきます。 5XX エラーの場合は、安定性を高めるために値を 1.0 または 0.5 に減らします。

[設定] → [クロール設定] → [スパイダー] → [クロール] に移動します。
サイトの選択したセクションのみをスキャンしたい場合は、「開始フォルダー外のリンクをチェックする」オプションのチェックを外します。 「開始フォルダーの外側をクロール」を有効にすると、クロール領域がサイト上のすべてのリンクに拡張されます。
必要に応じて、「すべてのサブドメインをクロールする」オプションを有効にしてサブドメインをクロールし、nofollow 属性を使用してクロール リンクを構成します。

直接リンクはないものの、サイトマップにはリストされているページを分析するには、[リンクされた XML サイトマップをクロールする] オプションを忘れずに有効にしてください。

このモードは検索エンジンの動作を模倣します。メイン ページから、内部リンクを使用してサイトがクロールされ、構造のレベルをさらに深く進んでいきます。
クロールする URL を含むファイルをアップロードしたり、URL を手動で入力したり、XML サイトマップへのリンクを使用したりできます。

このモードでは、タイトルと説明のみを分析します。このモードは使用頻度が低く、単純なメタデータ チェックに適しています。
さまざまなスキャンの結果を比較できるため、変更の追跡やエラーのトラブルシューティングに役立ちます。
[設定] → [クロール設定] → [コンテンツ] → [重複] に移動します。
「インデックス作成可能なページの重複をチェックする」オプションが有効になっている場合、プログラムはインデックス作成可能なページ間でのみ重複を検索します。
[ほぼ重複を有効にする] オプションを使用すると、コンテンツの一致率を設定でき、隠れた重複を見つけやすくなります。

[コンテンツ] → [すべて] セクションで結果を確認でき、単語数でページを並べ替えることができます。コンテンツが少ないページは、検索エンジンにとってあまり役に立たない可能性があります。

製品カタログのあるサイトで、固有のコンテンツが不十分なページを識別できる場合に特に役立ちます。製品カードの正しいクラスまたは ID を定義し、フィルタリングを設定します。

分析カウンター (Yandex.Metrica や Google Analytics など) の可用性を確認するには、検索設定にカウンター番号を挿入して、ページ コードによる検索モードを使用できます。

サイトをスキャンした後、ページ タイトル セクションでメタ タグとタイトルを表示できます。次のような点を確認することが重要です。

「応答コード」セクションで結果を確認します。 4xx や 5xx などのエラーに注意することが重要です。ページが正しく読み込まれるように修正する必要があります。