谷歌中文站長博客:整合網站重復內容

處理網站上的重復內容是一項非常困難的工作。隨著網站的發展，必須不斷增加、改變或刪除各種功能；與此同時，不同的網站內容來了又去。一段時間后，許多網站都會有以多個URL網址形式存在的系統化垃圾代碼，這些URL都返回同樣的內容。在一般情況下，除了會增加搜索引擎的抓取和索引內容的難度以外，你的網站上存在重復內容并不構成問題。此外，通過導入鏈接而得到的PageRank以及類似信息可能會在我們尚未確定為重復內容的網頁間擴散，導致你的首選網頁在谷歌中的排名降低。

處理你的網站內部重復內容的步驟

識別網站上的重復內容。
識別你網站上的重復內容是處理重復內容的第一步，也是最重要的一步。使用一種簡單的方法可以實現這個目的，即從網頁中選取一段獨特的文本代碼，然后搜索這段文本，并使用谷歌的site:query將搜索結果限制為自己網站上的網頁。如此以來，搜索出的含有同樣內容的多個結果就是你需要處理的重復內容。

確定你需要的首選URL網址。
在處理重復內容之前，必須確保你的首選URL網址結構。對于這段內容，你希望使用哪一個URL網址？

保持網站內部的統一性。
選擇首選網址之后，確保在你的網站內所有可能的位置上使用他們（包括你的Sitemap文件）。

在必要和可能的情況下使用301永久重定向。
可能的話，可以使用301代碼將重復網址重新定向為你選擇的網址。此舉能夠幫助用戶和搜索引擎在訪問重復URL網址時找到你的首選URL網址。如果你的網站有數個域名，可選擇一個域名，使用將其他域名301重定向到這個域名，同時還要確保其轉向正確的特定網頁，而不僅是域根目錄。如果網站同時支持www和非www主機名，可選擇其中一種，使用Google網站站長工具中的首選域設置，再進行適當的重定向。

在可能的情況下，在你網頁上使用rel="canonical"。
在無法使用301重定向的情況下，可以使用rel="canonical"，以方便搜索引擎更好地理解你的網站和首選URL網址。Ask.com、Bing和Yahoo!等主要搜索引擎都支持這種鏈接標簽的使用。

可能的情況下，在Google網站站長工具中使用URL參數處理工具
如果部分或全部網站重復內容來自帶有查詢參數的URL網址，則此工具將幫助你將URL內的重要參數和不相關參數通知我們。有關此工具的詳細信息可參見我們的博客聲明。

怎樣處理robots.txt文件？

使用robots.txt文件來禁止對重復內容進行抓取不在我們推薦的方法之內。我們建議你不要使用robots.txt文件或其他方式來禁止對你網站上的重復內容的訪問。你可以使用rel="canonical" 鏈接標簽、URL參數處理工具或301重定向。如果完全阻止了對重復內容的訪問，搜索引擎必須將這些URL作為獨立的不同網頁處理，因為它們無法分辨出這些URL其實只是指向相同內容的不同網址。更好的解決方法是允許對其進行抓取，同時用我們推薦的方法將這些URL網址明確標記為重復內容。如果你允許我們訪問這些URL網址，Google抓取機器人將學會通過查看URL確定其是否為重復內容，在各種情況下都能很好地避免不必要的重復爬行抓取。為了防止重復內容仍然引導我們過多地爬行搜索你的網站，你還可以調整Google網站站長工具里的抓取速度。

我們希望這些方法能夠幫助控制你的網站上的重復內容。你也可登錄我們的幫助中心查看有關重復內容的基本信息。如有任何問題，歡迎你隨時進入Google網站站長幫助論壇參加討論。

生活不易，碼農辛苦
如果您覺得本網站對您的學習有所幫助,可以手機掃描二維碼進行捐贈