マーガリンのテストブログ

このブログはIT関係で知ったこと、思ったことなどを記事として投稿していきます。 内容に不備や疑問点があればコメントしていただけると幸いです。

Pythonでスクレイピングするための環境構築(VSCode + Selenium + Python)

自分メモ用に投稿します。

 

VSCodePythonSeleniumが動く環境を構築する

 

 

はじめに

タイトルにスクレイピングとありますが、せっかくなのでSeleniumも入れて普段の学習にも使えるように環境構築をしようと思います。

*自分用のメモなので、拙い部分についてはご了承願います。

 

注意事項

スクレイピング*1をする場合、サーバー側に負荷をかける行為です。

またスクレイピングをするデータには著作権など権利問題が絡むことがあります。

過去には訴訟にも至ったこともありますので、法律や利用規約、マナーを守って行いましょう。

下記の記事内に注意事項が記載されていますので、読んでみましょうー

qiita.com

 

環境

今回環境構築に使う環境やツールは以下の4つを使います。

それぞれDL用サイトのリンクを貼り付けていますので、DLをしてください。

なお、ここでは詳しいインストール方法については記述しません。

ぜひググって調べてみてください。

私が書くよりも何倍も分かりやすいページがあるはずです。

Visual Studio Code

Visual Studio Code(以降「VSCode」と呼びます)

基本的に最新版を取得すれば大丈夫

code.visualstudio.com

Python

最新版を取得すれば大丈夫。

ただし、PythonにはVer.2.X系とVer.3.X系があるので、Ver.3.X版を入れてください。

www.python.org

Selenium

Seleniumは何かexeとかをDLするのではなく、Pythonのパッケージ管理システム(pip)を利用して取得します。

このpipはPythonをインストールすることで自動的に取得出来るので、特別何かをする必要はありません。

www.seleniumqref.com

Selenium WebDriver

Seleniumを使う場合、各ブラウザごとにドライバーを用意する必要があります。

ChromeならChrome用、Firefoxならfirefox用など。*2

chromedriver.chromium.org

 

 

 

インストールした後の設定

1. VScodeを日本語化にする*3
  1. 起動直後、左側に見える四角いアイコンをクリックする。■←こんな感じの
  2. MARKETPLACEが表示されるので「Japanese Language Pack」を検索。
  3. 「install」(緑色の小さいやつ)をクリックする。

これで再起動すると日本語になっているはずです。


2. VScodeの【 拡張設定 】にPythonを追加する 
  1. 起動直後に、左側に見える四角いアイコンをクリックする。■←こんな感じの
  2. MARKETPLACEが表示されるので「Python」を検索。
  3. 「install」(緑色の小さいやつ)をクリックする。
3. コードを書いてスクレイピングしてみる。

スクレイピングするサイトは以下の場所を拝借。

なおくれぐれもスクレイピング には、冒頭でも書いたよう注意事項を理解してから行ってください。

scraping-for-beginner.herokuapp.com

ブラウザを起動する→上のリンクのサイトにアクセスする→表示されている値を取得する。

# "selenium"って場所にある"Webdriver"をインポートする
from selenium import webdriver
 
#Chromeを開く。もし動かなかったら、()の中にWebDriverがあるパスを記述する
driver = webdriver.Chrome()
 
#()の中に記述したURLの場所にアクセス
 
#ターミナルにWebページのタイトルを出力する
print(driver.title)
 
# ブラウザを閉じる。じゃないとブラウザが起動しっぱなしになってリソースを食うので。
driver.quit
 

 

そのほかの操作については、以下の記事を参考にすると分かりやすいです。

qiita.com

 

 

以上

*1:スクレイピングウェブサイトから情報を取得し、その情報を加工して新たな情報を生成すること

*2:どのブラウザも制御出来る"Star Driver"ってのがあるらしい

*3:英語が苦手なので、日本語化しています