Production Level Knowledge & Tips. Updated at every month 1st Monday 7:00 AM JST.

  1. プログラミング
  2. 8 view

[node.js]webサイトのクローリング用ライブラリ cheerio

以下のライブラリを利用する。
npm install request
npm install cheerio
requestは対象URLからのデータ取得に用いて、
cheerioはその取得したデータをDOM解析するために使用する。 例えばこんな感じで使用出来る。
#!/usr/bin/env node

var request = require("request");
var cheerio = require("cheerio");

var request_url = "http://www.google.com";

request({url: request_url}, function(error, response, body)
{
  if (!error && response.statusCode == 200) {
    $ = cheerio.load(body);

    var url = response.request.href;
    var title = $("title").text();

    console.log(url);
    console.log(title);
  } else {
    console.log(response.statusCode);
  }
});

プログラミングの最近記事

  1. How to bring columns not GROUP BY key from ne…

  2. HiveでGROUP BYを伴うサブクエリのネストからGROUP BYのキー以外のカラムを…

  3. How to drop Hive’s External Table

  4. HiveでExternal Tableを削除する方法メモ

  5. [触ってみた]Microsoft Quantum Development Kit

関連記事

PAGE TOP