說到屏蔽搜索蜘蛛的抓取，自然而然的就會想到robots.txt文檔。robots.txt是什么？其實在此前筆者也已經(jīng)對此進行了基礎的說明。robots.txt是一種存放在網(wǎng)站空間根目錄下的文本文件，是一種協(xié)議，用來告訴搜索蜘蛛網(wǎng)站中哪些可被爬行抓取，哪些不可被爬行抓取。然而，在這里，筆者有著這么一個疑問，robots.txt是否能徹底屏蔽蜘蛛的爬行抓取呢？...

特別聲明：本頁面標簽名稱與頁面內容，系網(wǎng)站系統(tǒng)為資訊內容分類自動生成，僅提供資訊內容索引使用，旨在方便用戶索引相關資訊報道。如標簽名稱涉及商標信息，請訪問商標品牌官方了解詳情，請勿以本站標簽頁面內容為參考信息，本站與可能出現(xiàn)的商標名稱信息不存在任何關聯(lián)關系，對本頁面內容所引致的錯誤、不確或遺漏，概不負任何法律責任。站長之家將盡力確保所提供信息的準確性及可靠性，但不保證有關資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責。任何單位或個人認為本頁面內容可能涉嫌侵犯其知識產(chǎn)權或存在不實內容時，可及時向站長之家提出書面權利通知或不實情況說明，并提權屬證明及詳細侵權或不實情況證明（點擊查看反饋聯(lián)系地址）。本網(wǎng)站在收到上述反饋文件后，將會依法依規(guī)核實信息，第一時間溝通刪除相關內容或斷開相關鏈接。