天天看你们制作各种摸鱼网页。我直接贡献一个 node 抓取热点的代码。(低端版爬取网页数据)

WishMeLz 1月前 18

休息天没事做,小菜鸡一个。请多多指教。

初始化一个请求的方法

const cheerio = require('cheerio');
const request = require('request');
const iconv = require('iconv-lite');
function http(url, decode = 'utf8') {
    return new Promise((resolve, rejext) => {
        request({ url, encoding: null }, function (error, response, body) {
            if (!error && response.statusCode == 200) {
                var buf = iconv.decode(body, decode);//获取内容进行转码
                var $ = cheerio.load(buf); //初始化
                resolve($)
            } else {
                rejext(error)
            }
        });
    })
}
module.exports = http

使用

// 微博热搜
const http = require('./http')
let url = 'https://s.weibo.com/top/summary'
http(url)
    .then(res => {
        var $ = res;
        var table = $('#pl_top_realtimehot > table > tbody').find('tr .td-02 a')
        var resData = []
        table.each((i, e) => {
            resData.push({
                index: i,
                title: $(e).text(),
                url: "https://s.weibo.com" + $(e).attr('href')
            })

        })
        console.log(resData);
    })
    .catch(err => {
        console.log(err);
    })

最新回复 (15)
  • zxCoder 28天前
    引用 2
    啊这。。。
  • learningman 28天前
    引用 3
    建议发去 CSDN,他们一定会谢谢你的
  • j777 28天前
    引用 4
    这种玩意儿也值得发出来?
  • winnerczwx 28天前
    引用 5
    人家发出来又不影响你们什么, 楼上何必冷嘲热讽
  • yyyb 28天前
    引用 6
    楼上的楼上发个值得的玩意儿
  • falcon05 28天前
    引用 7
    你贡献了代码,那我贡献一个热点,HackerNews 的新闻的中译列表,url 规律是 HN-日期,比如:
    https://hicms.eu.org/p/HN-20210410
  • 3dwelcome 28天前
    引用 8
    挺好的,路过支持一下。
    写代码和写文章一样,是为了让别人看懂,不是写一堆复杂代码自己一个人嗨。楼主这个一眼就能懂,这点就很赞。
    谁都是新手阶段过来的,唯有才能笑到最后,楼主加油。
  • Lxxyx 28天前
    引用 9
    挺好的,支持 +1 。

    谁都有菜鸟的时候,能写出比较工整可用的代码已经很了不起了,加油!
  • labulaka521 28天前
    引用 10
    学到了
  • Smurf 28天前
    引用 11
    gogogo, 请把保护打在公屏上。资瓷
  • ji39 28天前
    引用 12
    谁请解析下 return new Promise 这行代码
  • 楼主 WishMeLz 28天前
    引用 13
    @ji39 异步呀
  • 楼主 WishMeLz 28天前
    引用 14
    @learningman 不敢去,献丑了
  • 楼主 WishMeLz 28天前
    引用 15
    @3dwelcome 多谢,嘿嘿
  • 楼主 WishMeLz 28天前
    引用 16
    @Lxxyx 多谢
  • 游客
    17
返回