
Esta ferramenta oferece uma ampla gama de funções, desde a verificação da exatidão das meta tags até a análise de micro marcação, o que a torna indispensável para análises detalhadas de sites de diversos tamanhos.
Neste guia, veremos as configurações e recursos básicos do SEO Spider que o ajudarão a analisar e melhorar seu site de maneira eficaz.
Abra o menu Arquivo → Configurações → Alocação de memória.
Recomenda-se alocar 8 GB de memória para projetos grandes, ou metade da memória disponível.

Vá para Arquivo → Configurações → Modo de armazenamento.
O padrão é armazenamento em memória. Recomenda-se mudar para armazenamento de banco de dados (disco rígido), principalmente se o drive for SSD, para agilizar o processo de digitalização.

Nas configurações (Arquivo → Configurações → Proxy) você pode definir um servidor proxy se o seu IP estiver bloqueado em um determinado site, o que ajudará a contornar o bloqueio.

Vá para Configuração → Configuração de rastreamento → Velocidade.
O valor ideal para Max Threads (threads) é de até 5. Aumentar o número de threads pode levar ao bloqueio ou sobrecarga do site durante a verificação.
Deixe o parâmetro Limitar URL/s em 2,0 URLs por segundo. Para erros 5XX, reduza o valor para 1,0 ou 0,5 para estabilidade.

Vá para Configuração → Configuração de rastreamento → Spider → Rastreamento.
Se você deseja verificar apenas uma seção selecionada do site, desmarque a opção “Verificar links fora da pasta inicial”. Ativar "Rastrear fora da pasta inicial" expande a área de rastreamento para todos os links do site.
Se necessário, ative a opção "Rastrear todos os subdomínios" para rastrear subdomínios e também configurar links de rastreamento com o atributo nofollow.

Não se esqueça de ativar a opção “Rastrear Sitemaps XML vinculados” para analisar páginas que podem não ter links diretos, mas estão listadas no mapa do site.

Este modo imita o comportamento dos motores de busca: a partir da página principal, o site é rastreado por meio de links internos, aprofundando-se nos níveis da estrutura.
Você pode fazer upload de um arquivo com URLs para rastrear, inseri-los manualmente ou usar um link para o Sitemap XML.

Este modo analisa apenas Título e Descrição. O modo é usado com menos frequência e é adequado para verificações simples de metadados.
Permite comparar resultados de diferentes verificações, útil para rastrear alterações ou solucionar erros.
Vá para Configuração → Configuração de rastreamento → Conteúdo → Duplicados.
Quando a opção "Verificar apenas páginas indexáveis para duplicatas" estiver habilitada, o programa procurará duplicatas apenas entre as páginas disponíveis para indexação.
A opção "Ativar quase duplicatas" permite definir a porcentagem de correspondência de conteúdo, o que ajuda a encontrar duplicatas ocultas.

Você pode ver os resultados na seção Conteúdo → Todos, classificando as páginas por contagem de palavras. Páginas com pouco conteúdo podem ser menos úteis para os mecanismos de busca.

Particularmente útil para sites com catálogos de produtos, onde é possível identificar páginas com conteúdo exclusivo insuficiente. Defina as classes ou IDs corretos para cartões de produto e configure a filtragem.

Para verificar a disponibilidade de contadores analíticos (por exemplo, Yandex.Metrica ou Google Analytics), você pode usar o modo de pesquisa por código de página inserindo o número do contador nas configurações de pesquisa.

Depois de digitalizar o site, você pode visualizar meta tags e títulos na seção Título da página. É importante verificar pontos como:

Observamos os resultados na seção Códigos de resposta. É importante ficar atento a erros como 4xx e 5xx eles devem ser corrigidos para que as páginas carreguem corretamente.