文章详情

短信预约-IT技能 免费直播动态提醒

请输入下面的图形验证码

提交验证

短信预约提醒成功

如何用Python实现网页正文的提取

2023-06-02 06:58

关注

这篇文章主要介绍了如何用Python实现网页正文的提取的相关知识,内容详细易懂,操作简单快捷,具有一定借鉴价值,相信大家阅读完这篇如何用Python实现网页正文的提取文章都会有所收获,下面我们一起来看看吧。

一个典型的新闻网页包括几个不同区域:

如何用Python实现网页正文的提取

新闻网页区域

我们要提取的新闻要素包含在:

而导航栏区域、相关链接区域的文字就不属于该新闻的要素。

新闻的、发布时间、正文内容一般都是从我们抓取的html里面提取的。如果仅仅是一个网站的新闻网页,提取这三个内容很简单,写三个正则表达式就可以完美提取了。然而,我们的爬虫抓来的是成百上千的网站的网页。对这么多不同格式的网页写正则表达式会累死人的,而且网页一旦稍微改版,表达式可能就失效,维护这群表达式也是会累死人的。

累死人的做法当然想不通,我们就要探索一下好的算法来实现。

1. 的提取

基本上都会出现在html的<title>标签里面,但是又被附加了诸如频道名称、网站名称等信息;

还会出现在网页的“区域”。

那么这两个地方,从哪里提取比较容易呢?

网页的“区域”没有明显的标识,不同网站的“区域”的html代码部分千差万别。所以这个区域并不容易提取出来。

那么就只剩下<title>标签了,这个标签很容易提取,无论是正则表达式,还是lxml解析都很容易,不容易的是如何去除频道名称、网站名称等信息。

先来看看,<title>标签里面都是设么样子的附加信息:

观察这些title不难发现,新闻和频道名、网站名之间都是有一些连接符号的。那么我就可以通过这些连接符吧title分割,找出最长的部分就是新闻了。

这个思路也很容易实现,这里就不再上代码了,留给小猿们作为思考练习题自己实现一下。

2. 发布时间提取

发布时间,指的是这个网页在该网站上线的时间,一般它会出现在正文的下方——meta数据区域。从html代码看,这个区域没有什么特殊特征让我们定位,尤其是在非常多的网站版面面前,定位这个区域几乎是不可能的。这需要我们另辟蹊径。
跟一样,我们也先看看一些网站的发布时间都是怎么写的:

这些写在网页上的发布时间,都有一个共同的特点,那就是一个表示时间的字符串,年月日时分秒,无外乎这几个要素。通过正则表达式,我们列举一些不同时间表达方式(也就那么几种)的正则表达式,就可以从网页文本中进行匹配提取发布时间了。

这也是一个很容易实现的思路,但是细节比较多,表达方式要涵盖的尽可能多,写好这么一个提取发布时间的函数也不是那么容易的哦。小猿们尽情发挥动手能力,看看自己能写出怎样的函数实现。这也是留给小猿们的一道练习题。

3. 正文的提取

正文(包括新闻配图)是一个新闻网页的主体部分,它在视觉上占据中间位置,是新闻的内容主要的文字区域。正文的提取有很多种方法,实现上有复杂也有简单。本文介绍的方法,是结合老猿多年的实践经验和思考得出来的一个简单快速的方法,姑且称之为“节点文本密度法”。

我们知道,网页的html代码是由不同的标签(tag)组成了一个树状结构树,每个标签是树的一个节点。通过遍历这个树状结构的每个节点,找到文本最多的节点,它就是正文所在的节点。根据这个思路,我们来实现一下代码。

3.1 实现源码

#!/usr/bin/env python3#File: maincontent.py#Author: veelionimport reimport timeimport tracebackimport cchardetimport lxmlimport lxml.htmlfrom lxml.html import HtmlCommentREGEXES = {    'okMaybeItsACandidateRe': re.compile(        'and|article|artical|body|column|main|shadow', re.I),    'positiveRe': re.compile(        ('article|arti|body|content|entry|hentry|main|page|'         'artical|zoom|arti|context|message|editor|'         'pagination|post|txt|text|blog|story'), re.I),    'negativeRe': re.compile(        ('copyright|combx|comment|com-|contact|foot|footer|footnote|decl|copy|'         'notice|'         'masthead|media|meta|outbrain|promo|related|scroll|link|pagebottom|bottom|'         'other|shoutbox|sidebar|sponsor|shopping|tags|tool|widget'), re.I),}class MainContent:    def __init__(self,):        self.non_content_tag = set([            'head',            'meta',            'script',            'style',            'object', 'embed',            'iframe',            'marquee',            'select',        ])        self.title = ''        self.p_space = re.compile(r'\s')        self.p_html = re.compile(r'<html|</html>', re.IGNORECASE|re.DOTALL)        self.p_content_stop = re.compile(r'正文.*结束|正文下|相关阅读|声明')        self.p_clean_tree = re.compile(r'author|post-add|copyright')    def get_title(self, doc):        title = ''        title_el = doc.xpath('//title')        if title_el:            title = title_el[0].text_content().strip()        if len(title) < 7:            tt = doc.xpath('//meta[@name="title"]')            if tt:                title = tt[0].get('content', '')        if len(title) < 7:            tt = doc.xpath('//*[contains(@id, "title") or contains(@class, "title")]')            if not tt:                tt =  doc.xpath('//*[contains(@id, "font01") or contains(@class, "font01")]')            for t in tt:                ti = t.text_content().strip()                if ti in title and len(ti)*2 > len(title):                    title = ti                    break                if len(ti) > 20: continue                if len(ti) > len(title) or len(ti) > 7:                    title = ti        return title    def shorten_title(self, title):        spliters = [' - ', '–', '—', '-', '|', '::']        for s in spliters:            if s not in title:                continue            tts = title.split(s)            if len(tts) < 2:                continue            title = tts[0]            break        return title    def calc_node_weight(self, node):        weight = 1        attr = '%s %s %s' % (            node.get('class', ''),            node.get('id', ''),            node.get('style', '')        )        if attr:            mm = REGEXES['negativeRe'].findall(attr)            weight -= 2 * len(mm)            mm = REGEXES['positiveRe'].findall(attr)            weight += 4 * len(mm)        if node.tag in ['div', 'p', 'table']:            weight += 2        return weight    def get_main_block(self, url, html, short_title=True):        ''' return (title, etree_of_main_content_block)        '''        if isinstance(html, bytes):            encoding = cchardet.detect(html)['encoding']            if encoding is None:                return None, None            html = html.decode(encoding, 'ignore')        try:            doc = lxml.html.fromstring(html)            doc.make_links_absolute(base_url=url)        except :            traceback.print_exc()            return None, None        self.title = self.get_title(doc)        if short_title:            self.title = self.shorten_title(self.title)        body = doc.xpath('//body')        if not body:            return self.title, None        candidates = []        nodes = body[0].getchildren()        while nodes:            node = nodes.pop(0)            children = node.getchildren()            tlen = 0            for child in children:                if isinstance(child, HtmlComment):                    continue                if child.tag in self.non_content_tag:                    continue                if child.tag == 'a':                    continue                if child.tag == 'textarea':                    # FIXME: this tag is only part of content?                    continue                attr = '%s%s%s' % (child.get('class', ''),                                   child.get('id', ''),                                   child.get('style'))                if 'display' in attr and 'none' in attr:                    continue                nodes.append(child)                if child.tag == 'p':                    weight = 3                else:                    weight = 1                text = '' if not child.text else child.text.strip()                tail = '' if not child.tail else child.tail.strip()                tlen += (len(text) + len(tail)) * weight            if tlen < 10:                continue            weight = self.calc_node_weight(node)            candidates.append((node, tlen*weight))        if not candidates:            return self.title, None        candidates.sort(key=lambda a: a[1], reverse=True)        good = candidates[0][0]        if good.tag in ['p', 'pre', 'code', 'blockquote']:            for i in range(5):                good = good.getparent()                if good.tag == 'div':                    break        good = self.clean_etree(good, url)        return self.title, good    def clean_etree(self, tree, url=''):        to_drop = []        drop_left = False        for node in tree.iterdescendants():            if drop_left:                to_drop.append(node)                continue            if isinstance(node, HtmlComment):                to_drop.append(node)                if self.p_content_stop.search(node.text):                    drop_left = True                continue            if node.tag in self.non_content_tag:                to_drop.append(node)                continue            attr = '%s %s' % (                node.get('class', ''),                node.get('id', '')            )            if self.p_clean_tree.search(attr):                to_drop.append(node)                continue            aa = node.xpath('.//a')            if aa:                text_node = len(self.p_space.sub('', node.text_content()))                text_aa = 0                for a in aa:                    alen = len(self.p_space.sub('', a.text_content()))                    if alen > 5:                        text_aa += alen                if text_aa > text_node * 0.4:                    to_drop.append(node)        for node in to_drop:            try:                node.drop_tree()            except:                pass        return tree    def get_text(self, doc):        lxml.etree.strip_elements(doc, 'script')        lxml.etree.strip_elements(doc, 'style')        for ch in doc.iterdescendants():            if not isinstance(ch.tag, str):                continue            if ch.tag in ['div', 'h2', 'h3', 'h4', 'p', 'br', 'table', 'tr', 'dl']:                if not ch.tail:                    ch.tail = '\n'                else:                    ch.tail = '\n' + ch.tail.strip() + '\n'            if ch.tag in ['th', 'td']:                if not ch.text:                    ch.text = '  '                else:                    ch.text += '  '            # if ch.tail:            #     ch.tail = ch.tail.strip()        lines = doc.text_content().split('\n')        content = []        for l in lines:            l = l.strip()            if not l:                continue            content.append(l)        return '\n'.join(content)    def extract(self, url, html):        '''return (title, content)        '''        title, node = self.get_main_block(url, html)        if node is None:            print('\tno main block got !!!!!', url)            return title, '', ''        content = self.get_text(node)        return title, content

3.2 代码解析

跟新闻爬虫一样,我们把整个算法实现为一个类:MainContent。

首先,定义了一个全局变量: REGEXES。它收集了一些经常出现在标签的class和id中的关键词,这些词标识着该标签可能是正文或者不是。我们用这些词来给标签节点计算权重,也就是方法calc_node_weight()的作用。

MainContent类的初始化,先定义了一些不会包含正文的标签 self.non_content_tag,遇到这些标签节点,直接忽略掉即可。

本算法提取实现在get_title()这个函数里面。首先,它先获得<title>标签的内容,然后试着从<meta>里面找title,再尝试从<body>里面找id和class包含title的节点,最后把从不同地方获得的可能是的文本进行对比,最终获得。对比的原则是:

<title>标签里面获得,就要解决清洗的问题。这里实现了一个简单的方法: clean_title()。

在这个实现中,我们使用了lxml.html把网页的html转化成一棵树,从body节点开始遍历每一个节点,看它直接包含(不含子节点)的文本的长度,从中找出含有最长文本的节点。这个过程实现在方法:get_main_block()中。其中一些细节,小猿们可以仔细体会一下。

其中一个细节就是,clean_node()这个函数。通过get_main_block()得到的节点,有可能包含相关新闻的链接,这些链接包含大量新闻,如果不去除,就会给新闻内容带来杂质(相关新闻的、概述等)。

还有一个细节,get_text()函数。我们从main block中提取文本内容,不是直接使用text_content(),而是做了一些格式方面的处理,比如在一些标签后面加入换行符合\n,在table的单元格之间加入空格。这样处理后,得到的文本格式比较符合原始网页的效果。

爬虫知识点

cchardet模块
用于快速判断文本编码的模块

lxml.html模块
结构化html代码的模块,通过xpath解析网页的工具,高效易用,是写爬虫的居家必备的模块。

内容提取的复杂性
我们这里实现的正文提取的算法,基本上可以正确处理90%以上的新闻网页。
但是,世界上没有千篇一律的网页一样,也没有一劳永逸的提取算法。大规模使用本文算法的过程中,你会碰到奇葩的网页,这个时候,你就要针对这些网页,来完善这个算法类。

关于“如何用Python实现网页正文的提取”这篇文章的内容就介绍到这里,感谢各位的阅读!相信大家对“如何用Python实现网页正文的提取”知识都有一定的了解,大家如果还想学习更多知识,欢迎关注编程网行业资讯频道。

阅读原文内容投诉

免责声明:

① 本站未注明“稿件来源”的信息均来自网络整理。其文字、图片和音视频稿件的所属权归原作者所有。本站收集整理出于非商业性的教育和科研之目的,并不意味着本站赞同其观点或证实其内容的真实性。仅作为临时的测试数据,供内部测试之用。本站并未授权任何人以任何方式主动获取本站任何信息。

② 本站未注明“稿件来源”的临时测试数据将在测试完成后最终做删除处理。有问题或投稿请发送至: 邮箱/279061341@qq.com QQ/279061341

软考中级精品资料免费领

  • 历年真题答案解析
  • 备考技巧名师总结
  • 高频考点精准押题
  • 2024年上半年信息系统项目管理师第二批次真题及答案解析(完整版)

    难度     813人已做
    查看
  • 【考后总结】2024年5月26日信息系统项目管理师第2批次考情分析

    难度     354人已做
    查看
  • 【考后总结】2024年5月25日信息系统项目管理师第1批次考情分析

    难度     318人已做
    查看
  • 2024年上半年软考高项第一、二批次真题考点汇总(完整版)

    难度     435人已做
    查看
  • 2024年上半年系统架构设计师考试综合知识真题

    难度     224人已做
    查看

相关文章

发现更多好内容

猜你喜欢

AI推送时光机
位置:首页-资讯-后端开发
咦!没有更多了?去看看其它编程学习网 内容吧
首页课程
资料下载
问答资讯