[node.js]webサイトのクローリング用ライブラリ cheerio

以下のライブラリを利用する。

npm install request
npm install cheerio

requestは対象URLからのデータ取得に用いて、
cheerioはその取得したデータをDOM解析するために使用する。 例えばこんな感じで使用出来る。

#!/usr/bin/env node

var request = require("request");
var cheerio = require("cheerio");

var request_url = "http://www.google.com";

request({url: request_url}, function(error, response, body)
{
  if (!error && response.statusCode == 200) {
    $ = cheerio.load(body);

    var url = response.request.href;
    var title = $("title").text();

    console.log(url);
    console.log(title);
  } else {
    console.log(response.statusCode);
  }
});