当前位置:首页 > 开发 > 编程语言 > 蜘蛛爬虫 > 正文

nutch源代码分析之Injector

发表于: 2008-05-20   作者:coderplay   来源:转载   浏览:
摘要: Injector分两步MapReduce操作:获取爬虫数据、将数据合并到爬虫数据库中。 参见Injector.inject(Path crawlDb, Path urlDir)方法 MapReduce1: 把输入数据转换为数据库所需的格式   输入:未处理的,包含url信息的文本文件   Map(line) -> <url, CrawlDa
Injector分两步MapReduce操作:获取爬虫数据、将数据合并到爬虫数据库中。
参见Injector.inject(Path crawlDb, Path urlDir)方法

MapReduce1: 把输入数据转换为数据库所需的格式
  •   输入:未处理的,包含url信息的文本文件
  •   Map(line) -> <url, CrawlDatum>; status=db_unfetched
  •   Reduce()是同一化(即具有相同key值的key-value对根据key值排序后,连续写在SequenceFile中,这是Hadoop默认的Reducer)
  •   输出: 包含临时文件的目录

MapReduce2: 合并到已有数据库
  • 输入:第一步的输出和已存在的数据库
  • Map是同一化
  • Reduce: 合并CrawlDatum成单个入口
  • 输出: 新版本的数据库

nutch源代码分析之Injector

  • 0

    开心

    开心

  • 0

    板砖

    板砖

  • 0

    感动

    感动

  • 0

    有用

    有用

  • 0

    疑问

    疑问

  • 0

    难过

    难过

  • 0

    无聊

    无聊

  • 0

    震惊

    震惊

版权所有 IT知识库 CopyRight © 2009-2015 IT知识库 IT610.com , All Rights Reserved. 京ICP备09083238号