
Alat ini menawarkan berbagai fungsi, mulai dari memeriksa kebenaran tag meta hingga menganalisis markup mikro, sehingga sangat diperlukan untuk analisis mendetail situs dengan berbagai ukuran.
Dalam panduan ini, kita akan melihat pengaturan dan fitur dasar SEO Spider yang akan membantu Anda menganalisis dan meningkatkan situs Anda secara efektif.
Buka menu File → Pengaturan → Alokasi Memori.
Disarankan untuk mengalokasikan memori sebesar 8 GB untuk proyek besar, atau setengah dari memori yang tersedia.

Buka File → Pengaturan → Mode Penyimpanan.
Standarnya adalah Penyimpanan Memori. Disarankan untuk beralih ke Database Storage (harddisk), terutama jika drive tersebut adalah SSD, untuk mempercepat proses pemindaian.

Dalam pengaturan (File → Pengaturan → Proxy) Anda dapat mengatur server proxy jika IP Anda diblokir di situs tertentu, yang akan membantu melewati pemblokiran tersebut.

Buka Konfigurasi → Konfigurasi Perayapan → Kecepatan.
Nilai optimal untuk Max Threads adalah hingga 5. Menambah jumlah thread dapat menyebabkan pemblokiran atau kelebihan beban situs selama pemindaian.
Biarkan parameter Batasi URL/s pada 2,0 URL per detik. Untuk kesalahan 5XX, kurangi nilainya menjadi 1,0 atau 0,5 untuk stabilitas.

Buka Konfigurasi → Konfigurasi Perayapan → Spider → Perayapan.
Jika Anda ingin memindai hanya bagian situs yang dipilih, hapus centang pada opsi "Periksa Tautan di Luar Folder Awal". Mengaktifkan "Perayapan di Luar Folder Awal" akan memperluas area perayapan ke semua tautan di situs.
Jika perlu, aktifkan opsi "Perayapan Semua Subdomain" untuk merayapi subdomain, dan juga mengonfigurasi tautan perayapan dengan atribut nofollow.

Jangan lupa untuk mengaktifkan opsi "Perayapan Peta Situs XML Tertaut" untuk menganalisis halaman yang mungkin tidak memiliki tautan langsung, tetapi terdaftar di peta situs.

Mode ini meniru perilaku mesin pencari: dari halaman utama, situs dirayapi menggunakan tautan internal, masuk lebih dalam melalui tingkat struktur.
Anda dapat mengunggah file dengan URL untuk dirayapi, memasukkannya secara manual, atau menggunakan tautan ke Peta Situs XML.

Mode ini hanya menganalisis Judul dan Deskripsi. Mode ini lebih jarang digunakan dan cocok untuk pemeriksaan metadata sederhana.
Memungkinkan Anda membandingkan hasil dari pemindaian yang berbeda, berguna untuk melacak perubahan atau memecahkan masalah kesalahan.
Buka Konfigurasi → Konfigurasi Perayapan → Konten → Duplikat.
Ketika opsi "Hanya Periksa Halaman yang Dapat Diindeks untuk Duplikat" diaktifkan, program akan mencari duplikat hanya di antara halaman yang tersedia untuk diindeks.
Opsi "Aktifkan Dekat Duplikat" memungkinkan Anda mengatur persentase kecocokan konten, yang membantu Anda menemukan duplikat tersembunyi.

Anda dapat melihat hasilnya di bagian Content → All, mengurutkan halaman berdasarkan jumlah kata. Halaman dengan sedikit konten mungkin kurang bermanfaat bagi mesin pencari.

Sangat berguna untuk situs dengan katalog produk, tempat Anda dapat mengidentifikasi halaman dengan konten unik yang tidak memadai. Tentukan kelas atau id yang benar untuk kartu produk dan atur pemfilteran.

Untuk memeriksa ketersediaan penghitung analitik (misalnya, Yandex.Metrica atau Google Analytics), Anda dapat menggunakan mode pencarian berdasarkan kode halaman dengan memasukkan nomor penghitung ke dalam pengaturan pencarian.

Setelah memindai situs, Anda dapat melihat meta tag dan judul di bagian Judul Halaman. Penting untuk memeriksa poin-poin seperti:

Kami melihat hasilnya di bagian Kode Respons. Penting untuk memperhatikan kesalahan seperti 4xx dan 5xx; kesalahan tersebut harus diperbaiki agar halaman dimuat dengan benar.