لم تتمكن Google من الزحف إلى عنوان URL بسبب تقييد من ملف robots.txt. وقد يحدث ذلك نتيجة لأسباب متعددة. على سبيل المثال، قد يحظر ملف robots.txt الخاص بك Googlebot بشكل تام؛ أو ربما يحظر الوصول إلى الدليل الموجود فيه عنوان URL هذا؛ أو ربما يمنع الوصول إلى عنوان URL على وجه التحديد. وغالبًا لا يكون هذا خطأ. فربما أنك قمت بإعداد ملف robots.txt بشكل محدد ليمنعنا من الزحف إلى عنوان URL هذا. وإذا كان الأمر كذلك، فلست بحاجة لإصلاحه؛ حيث أننا سوف نظل نحترم robots.txt لهذا الملف.
إذا كان عنوان URL يقوم بإعادة توجيه إلى عنوان URL ممنوع بواسطة ملف robots.txt، فسوف يتم الإبلاغ عن عنوان URL الأول على أنه ممنوع بواسطة ملف robots.txt (حتى إذا كان عنوان URL مدرجا على أنه "مسموح به" في أداة تحليل ملف robots.txt).
إذا كان عنوان URL يقوم بإعادة توجيه إلى عنوان URL ممنوع بواسطة ملف robots.txt، فسوف يتم الإبلاغ عن عنوان URL الأول على أنه ممنوع بواسطة ملف robots.txt (حتى إذا كان عنوان URL مدرجا على أنه "مسموح به" في أداة تحليل ملف robots.txt).