j-spider.sourceforge.net.properties
上传用户:qing5858
上传日期:2015-10-27
资源大小:6056k
文件大小:2k
源码类别:

搜索引擎

开发平台:

Java

  1. # -----------------------------------------------------------------------------
  2. # J-Spider Site Configuration File (http://j-spider.sourceforge.net)
  3. # -----------------------------------------------------------------------------
  4. #
  5. # $Id: j-spider.sourceforge.net.properties,v 1.14 2003/04/25 21:28:55 vanrogu Exp $
  6. #
  7. # This is a site configuration file for the j-spider.sourceforge.net site.
  8. # (Explanation of all the settings can be found in the default.properties file
  9. # and on the JSpider website)
  10. #
  11. # -----------------------------------------------------------------------------
  12. site.handle=true
  13. # -----------------------------------------------------------------------------
  14. # Proxy Configuration
  15. # -----------------------------------------------------------------------------
  16. site.proxy.use=true
  17. # -----------------------------------------------------------------------------
  18. # Throttling Configuration
  19. # -----------------------------------------------------------------------------
  20. site.throttle.provider=net.javacoding.jspider.core.throttle.impl.DistributedLoadThrottleProvider
  21. site.throttle.config.interval=500
  22. # -----------------------------------------------------------------------------
  23. # Cookie Configuration
  24. # -----------------------------------------------------------------------------
  25. site.cookies.use=true
  26. # -----------------------------------------------------------------------------
  27. # Robots.txt configuration
  28. # -----------------------------------------------------------------------------
  29. site.robotstxt.fetch=true
  30. site.robotstxt.obey=true
  31. # -----------------------------------------------------------------------------
  32. # User Agent configuration
  33. # -----------------------------------------------------------------------------
  34. #site.userAgent=JSpider (http://j-spider.sourceforge.net)
  35. # -----------------------------------------------------------------------------
  36. # Rules Configuration
  37. # -----------------------------------------------------------------------------
  38. site.rules.spider.count=2
  39. site.rules.spider.1.class=net.javacoding.jspider.mod.rule.ForbiddenPathRule
  40. site.rules.spider.1.config.path=/apidocs
  41. site.rules.spider.2.class=net.javacoding.jspider.mod.rule.ForbiddenPathRule
  42. site.rules.spider.2.config.path=/xref
  43. site.rules.parser.count=1
  44. site.rules.parser.1.class=net.javacoding.jspider.mod.rule.BaseSiteOnlyRule