数据工程解析抓取到的网页,仅有少量经过清洗后可以直接喂给大模型

在大模型的数据工程管线里,直接从互联网抓下来的原始网页 HTML,绝大多数都含有广告、导航栏、JS 代码、重复模板、乱码、低质灌水内容,