PythonでWebページのHTML要素からテキストやリンクURLを取得する方法

★気に入ったらシェアをお願いします!


html

photo credit: http://tvorbaweb-stranok.sk Meta and title tags in HTML code via photopin (license)

みなさん、こんにちは!
タカハシ(@ntakahashi0505)です。

初心者かつWindowsユーザー向けということで、PythonによるWebスクレイピングの方法についてお伝えしています。

前回の記事はコチラ。

PythonでWebページからid属性を条件にして要素を取得する方法
初心者向け&Windowsユーザー向けにPythonでWebスクレイピングをする方法をお伝えしています。今回は、PythonでWebページからid属性を条件にして要素を取得する方法です。

WebページのHTMLからid属性を条件として要素を取得する方法についてお伝えしました。

これにて

  • タグ
  • class属性
  • id属性

という3つの種類で要素を絞り込むことができたわけで、これらの組み合わせだけでも、色々なパターンのHTML解析ができるのですが、欲しいのは要素ではなくて、テキストだったり、href属性(つまりURL)だったりしますよね。

ということで、今回はPythonを使って特定のHTML要素からテキストと属性データを取得する方法についてお伝えします。

では行ってみましょう。

前回のおさらい

では、まず前回のおさらいから。

作成したスクリプトはコチラです。

当ブログのトップページの記事一覧から記事タイトルを含む要素を取得するものです。

Beautiful Soupオブジェクトのselectメソッドを使って「list」というid名を持つ要素配下からh2タグの要素をつかむことで目的を達成しています。

今回は、さらにその取得した要素群からテキスト(つまり記事タイトル)とそのリンクURLを取得していきたいと思います。

HTML要素からテキストを取得する

Beautiful Soupオブジェクトのselectメソッドで取得できるのはHTML要素を表すTagオブジェクトのリストです。

ですから、そのTagオブジェクトひとつひとつから、テキストを抜き出せば良いということになります。

getTextメソッドでTagオブジェクトからテキストを取得する

Tagオブジェクトから、それに含まれるテキストを取得するには、getTextメソッドを使います。

Tagオブジェクト.getText()

今回の例でいうと、selectメソッドで取得したTagオブジェクトの例としては

となっています。h2タグの中のaタグの中に「【エクセルVBA】表の最終行・最終列を取得する方法のまとめ」が含まれていますが、h2タグに対してgetTextメソッドを使ってあげてもちゃんと目的のブツが抽出できます。

記事タイトルを出力するスクリプト

ですから、冒頭のスクリプトの7行目だけ修正して、以下のようなスクリプトにすればよさそうですよ。

実行をすると、以下のように記事タイトルだけを表示することができます。

PythonでWebページから記事一覧を取得

HTML要素から属性の値を取得する

では、続いて各記事のリンクURLを取得してみましょうか。

前述のTagオブジェクトの様子を観察すると、リンクURLは配下のaタグの中の「href=」という属性の値になっています。これはhref属性といいまして、リンクを表すaタグ(アンカータグ)のリンク参照先(Hypertext Reference)を示します。

getメソッドでTagオブジェクトから属性値を取り出す

Beautiful Soupモジュールには、Tagオブジェクトからその要素の指定の属性値を取得するgetメソッドがあります。

書き方はこうです。

Tagオブジェクト.get(属性)

ですから、href属性が欲しいのであれば

Tagオブジェクト.get(‘href’)

とすればOKです。

記事タイトルとリンクURLを出力するスクリプト

これを踏まえて各タイトルとそのURLを出力するスクリプトを作ってみましょう。

7行目にgetメソッドを使っています。

また、5行目も少し変えています。今回の場合、h2要素はhref属性がありませんので、h2要素の配下のaタグをselectして、それに対してgetメソッドを使うようにしています。

実行結果はコチラ。

PythonでWebページから記事タイトルとリンクURLを取得

無事に取得できました。

まとめ

PythonでHTML要素からテキストと属性値を取得する方法についてお伝えしました。

  • TagオブジェクトのgetTextメソッドでテキストを取得する
  • Tagオブジェクトのgetメソッドで属性の値を取得する

引き続き、Webスクレイピングに関するテクニックをお伝えしますね。

どうぞお楽しみに!

連載目次:初心者向け!PythonでWebスクレイピングをしよう

スクレイピングとはWebサイトから情報を集めてくること。Pythonは専用の書籍が出るくらいスクレイピングが得意です。本シリーズでは、PythonでWebスクレイピングをする方法をお伝えしていきます。

  1. Pythonでスクレイピングをする最初の一歩、Webページを丸ごと取得する方法
  2. PythonでWebページを取得できたかどうかのエラーチェックと安全な中止の仕方
  3. Pythonで取得したWebページのHTMLを解析するはじめの一歩
  4. PythonでWebページ内の特定のタグ要素をまとめて取得する
  5. PythonでWebページから特定のclass属性を持つ要素をまとめて取得する方法
  6. PythonでWebページからid属性を条件にして要素を取得する方法
  7. PythonでWebページのHTML要素からテキストやリンクURLを取得する方法

The following two tabs change content below.
1976年こどもの日生まれ。東京板橋区在住。「ITで日本の『働く』の価値を上げる!」をテーマに、VBA&GASの開発、講師、コンサル、執筆本を中心に活動しています。→詳しいプロフィールはコチラ ★ご依頼・ご相談はお気軽にどうぞ!→お問い合わせはコチラ ★フォロー頂ければ嬉しいです。

コメント

  1. 通りすがり より:

    初めまして
    Webスクレイピングに興味を持ち、まずどの言語で作成してみようかと調べているときにこちらのブログにたどり着きました
    Pythonのインストール、IDLEの使い方からはじまり、こちらの1~7記事目まで非常にわかりやすく、そして実際にコーディングをしながら楽しく拝見させて頂きました
    たった1時間ほどでWebページの取得解析まで最低限のことを理解することができとても感謝しております
    これからも素敵な記事の更新楽しみにしております
    本当にありがとうございました

    • 通りすがりさん

      ありがとうございます!
      Pythonの記事も更新していかなきゃですね…!

      頑張りますので、引き続きよろしくお願いいたします!!

  2. アナログ人 より:

    pythonの記事を拝見させていただいてます。

    初めてのプログラミング言語ですが、わかりやすい説明で「できた!」を感じながら勉強しています。

    質問なのですが、1つのwebから複数のリンク先を全てスクレイピングするにはどうすれば良いですか。

    知識不足で拙い文章で申し訳ありませんが、よろしくお願いします。

    • アナログ人様

      コメントありがとうございます。
      いただいた内容は、他の方にもニーズのある情報だと思うので、別記事にて紹介することを検討したいと思います。
      ただ、必ず公開するとお約束することはできませんので、その点ご了承いただければありがたいです。