zuqqhi2 Tech Memo

[node.js]webサイトのクローリング用ライブラリ cheerio

以下のライブラリを利用する。

npm install request
npm install cheerio

requestは対象URLからのデータ取得に用いて、
cheerioはその取得したデータをDOM解析するために使用する。例えばこんな感じで使用出来る。

#!/usr/bin/env node

var request = require("request");
var cheerio = require("cheerio");

var request_url = "http://www.google.com";

request({url: request_url}, function(error, response, body)
{
  if (!error &amp;amp;&amp;amp; response.statusCode == 200) {
    $ = cheerio.load(body);

    var url = response.request.href;
    var title = $("title").text();

    console.log(url);
    console.log(title);
  } else {
    console.log(response.statusCode);
  }
});

zuqqhi2

某Web系の会社でエンジニアをやっています。学術的なことに非常に興味があります。趣味は楽器演奏、ジョギング、読書、料理などなど手広くやっています。