Python3學習系列(一):Scrapy在Python3環境下的安裝

前言

一般大家都知道,當你學習一門新技術的時候,最麻煩的往往是環境的搭建。

同時,我也挺煩搭建環境的,當我在學習Python爬蟲的時候,這個Scrapy框架的安裝真的讓我很無語,為了讓接下來學習的人脫坑。第一篇就先寫環境的搭建。

Scrapy安裝介紹

Scrapy的安裝有多種方式,它支持Python2.7版本及以上或Python3.3版本及以上。

下面說明Python3環境下的安裝過程。

Scrapy依賴的庫比較多,至少需要依賴庫有Twisted 14.0,lxml 3.4,pyOpenSSL 0.14。

而在不同平台環境又各不相同,所以在安裝之前最好確保把一些基本庫安裝好,尤其是Windows。

安裝步驟

  • 設置環境變數

我的電腦->屬性->高級系統設置->環境變數

在path中追加D:python34;D:python34Scripts;(路徑為自己Python的安裝路徑)

那我們為什麼要添加環境變數呢?

因為方便。當我們在cmd中輸入python的時候,系統是識別不了這個命令的,而添加了環境變數,系統就會在這些路徑裡面去找python文件並且運行。

用戶變數和系統變數的區別:

用戶變數只對當前用戶有效,系統變數對所用用戶都有效。且優先權 系統變數>用戶變數

  • 安裝lxml

最好的安裝方式是通過wheel文件來安裝,lfd.uci.edu/~gohlke/pyt,從該網站找到lxml的相關文件。

假如是Python3.5版本,WIndows 64位系統,那就找到lxml?3.7.2?cp35?cp35m?win_amd64.whl 這個文件並下載,然後通過pip安裝。

下載之後,運行如下命令安裝:

pip3 install wheel pip3install lxml?3.7.2?cp35?cp35m?win_amd64.whl

即可完成lxml的安裝,其他文件替換文件名即可。

  • 安裝zope.interface

到官方網站pypi.python.org/pypi/zo下載對應版本的wheel文件,然後pip安裝。

比如Python 3.5版本,Windows 64位系統,就下載zope.interface-4.3.3-cp35-cp35m-win_amd64.whl。

然後安裝wheel文件即可,命令如下:

pip3 install zope.interface-4.3.3-cp35-cp35m-win_amd64.whl

其他版本替換文件名即可。

  • 安裝pyOpenSSL

官方網站下載wheel文件,pypi.python.org/pypi/py,如當前最新版本名稱是pyOpenSSL-16.2.0-py2.py3-none-any.whl,下載後安裝即可。

pip3 install pyOpenSSL-16.2.0-py2.py3-none-any.whl

  • 安裝Twisted

同理,lfd.uci.edu/~gohlke/pyt下載wheel文件,利用pip安裝即可。

如Python 3.5版本,Windows 64位系統,下載

Twisted?17.1.0?cp35?cp35m?win_amd64.whl,然後pip安裝。

pip3 install Twisted?17.1.0?cp35?cp35m?win_amd64.whl

  • 安裝pywin32

從官方網站 sourceforge.net/project 下載對應版本的安裝包安裝即可。

  • 安裝Scrapy

最後安裝Scrapy即可,依然使用pip,命令如下:

pip3 install Scrapy

安裝成功。。。

個人博客:bywalks.com


推薦閱讀:

Python從零開始系列連載(13)——Python程序的基本控制流程(上)
Spider與OpenPyXL的結合
python中list, array的轉換
0x8:Whois自動查詢
基於pytesseract的簡單驗證碼識別

TAG:網路安全 | Python教程 |