当前位置:首页 > 开发 > 开源软件 > 正文

nutch源代码分析之Fetcher

发表于: 2008-05-20   作者:coderplay   来源:转载   浏览:
摘要: MapReduce:获取的urls集 输入:<url,CrawlDatum>, 按主机分块, 按hash排序 Map(url,CrawlDatum) $\to$ <url,FetcherOutput> 通过多线程、异步map实现 调用已有的Nutch协议插件 FetcherOutput: <Crawl

MapReduce:获取的urls集

  • 输入:<url,CrawlDatum>, 按主机分块, 按hash排序
  • Map(url,CrawlDatum) $\to$ <url,FetcherOutput>
      通过多线程、异步map实现
      调用已有的Nutch协议插件
  • FetcherOutput: <CrawlDatum, 网页内容Content>
  • Reduce()是同一化
  • 输出: 两种文件: <url,CrawlDatum>, <url,Content>

 

nutch源代码分析之Fetcher

  • 0

    开心

    开心

  • 0

    板砖

    板砖

  • 0

    感动

    感动

  • 0

    有用

    有用

  • 0

    疑问

    疑问

  • 0

    难过

    难过

  • 0

    无聊

    无聊

  • 0

    震惊

    震惊

版权所有 IT知识库 CopyRight © 2009-2015 IT知识库 IT610.com , All Rights Reserved. 京ICP备09083238号