الفصل 11
تحليل سجلات الخادم
ما يفعله Googlebot فعلاً على موقعك، من مصدر لا يكذب.
لماذا السجلات وليس الأدوات؟#
كل أداة سيو تخبرك بما تتوقع أن يفعله جوجل. سجلات الخادم تخبرك بما فعله بالفعل: أي صفحة طلبها، ومتى، وكم مرة، وبأي رمز استجابة ردّ خادمك.
هذا المصدر الوحيد الذي لا يعتمد على تقدير أو عيّنة. وهو متاح لك مجاناً، وأغلب المواقع لا تفتحه أبداً.
من يحتاجه فعلاً
إن كان موقعك أقل من بضعة آلاف صفحة، فالسجلات ترف. تبدأ قيمتها الحقيقية مع المتاجر والمواقع الكبيرة التي تعاني من صفحات لا تُفهرس أو زحف يذهب للمكان الخطأ.
التحقق من Googlebot الحقيقي#
لا تثق بترويسة User-Agent إطلاقاً؛ تزويرها يستغرق ثانية. الطريقة الرسمية هي البحث العكسي المزدوج:
# 1) من عنوان IP إلى اسم النطاق
host 66.249.66.1
# يجب أن ينتهي بـ googlebot.com أو google.com
# 2) من الاسم إلى عنوان IP مرة أخرى
host crawl-66-249-66-1.googlebot.com
# يجب أن يعيد نفس العنوان الأصلي
إن لم تتطابق الخطوتان فهو بوت مزيّف. تنشر جوجل أيضاً ملفات JSON رسمية بنطاقات عناوين زواحفها، وهي الأنسب للتحقق الآلي.
تنبيه
التحقق من هوية البوت للحماية والتحليل فقط. تقديم محتوى مختلف لمن يثبت أنه Googlebot هو تمويه (Cloaking) ومخالفة صريحة.
ما تقرأه في السجلات#
| الملاحظة | ما تعنيه غالباً | الإجراء |
|---|---|---|
زحف كثيف لصفحات ?sort= و?filter= | هدر ميزانية الزحف | امنع الأنماط في robots.txt |
| صفحة مهمة لم تُزَر منذ شهرين | عزلة في بنية الربط | اربطها من صفحة قوية |
| ارتفاع زمن الاستجابة | إنذار مبكر قبل انخفاض الزحف | حسّن الخادم قبل أن ينخفض المعدل |
| كثرة 404 و301 | روابط داخلية قديمة | حدّث الروابط للوجهة النهائية |
| تكرار طلب صفحة لم تتغير | ترويسات تخزين مؤقت خاطئة | اضبط Last-Modified وETag |
| معظم الزحف من Googlebot Smartphone | طبيعي تماماً | لا شيء |
كشف الصفحات المهملة#
أقوى استخدام عملي: قارن قائمة صفحاتك القابلة للفهرسة بقائمة ما زُحف إليه فعلاً خلال 30 يوماً. الفرق بينهما هو صفحاتك المنسية.
- صدّر كل روابط موقعك من أداة زحف
- استخرج الروابط الفريدة التي طلبها Googlebot من السجلات
- اطرح الثانية من الأولى
- لكل صفحة في الناتج اسأل: هل تستحق البقاء؟ إن نعم، اربطها داخلياً. إن لا، احذفها
هذه العملية وحدها تكشف عادةً عشرات الصفحات التي كتبتها ونسيتها، ولم يرها جوجل منذ نشرها.
أدوات#
- Screaming Frog Log File Analyser: الأسهل للبدء، يستورد ويصنّف تلقائياً
- إحصائيات الزحف في Search Console: ملخص جاهز دون سجلات خام، ويكفي معظم المواقع
- GoAccess: مفتوح المصدر، يعمل مباشرة على الخادم
- سطر الأوامر:
grepوawkيكفيان لتحليل سريع
قبل أن تبدأ
احتفظ بالسجلات ثلاثة أشهر على الأقل؛ القيمة كلها في المقارنة الزمنية. وحلّل شهراً كاملاً لا يوماً واحداً، وإلا ستقرأ ضوضاء.