<rt id="bn8ez"></rt>
<label id="bn8ez"></label>
  • 

    • <span id="bn8ez"></span>
    

    <label id="bn8ez"><meter id="bn8ez"></meter></label>
    

    
    

    




    







												


        




    
	
		
		
    

隨筆-26 
評論-111 
文章-19 
trackbacks-0

    
	

    

    
	
					


    
	
	???? 
    ?????????? 最近因為工作太忙的原因，一直沒有時間來更新，現在放出2.1的版本（包含最新的源代碼）。

    ??????? 下載地址：
    ?????????????????????????snoics-reptile2.1.part1.rar
    ?????????????????????????snoics-reptile2.1.part2.rar
    ?????????????????????????snoics-reptile2.1.part3.rar
    ?????????????????????????snoics-reptile2.1.part4.rar

    ????????? （大家有什么意見可以在這里提出，只要有時間，我會盡量更新，有什么建議可以在blog里面提出，或者加我的MSN一起討論。? ^_^ ）

    版本歷史

    2.1：

    		1、不用再配置snoics-configpath.xml中的路徑。
    2、定時自動保存Cache
    3、修改了一些Bug
    2.0：

    		核心代碼全部重寫，增加了擴展性，通過擴展之后，基本上能實現對整個網站完整的解析

    1.0：

    		實現了整站抓取的基本的功能，不能解析特殊的URL，對javascript無法辨認
    
	
    posted on 2006-10-27 21:05 snoics 閱讀(4824) 評論(21)  編輯  收藏  
    

    







    
	    
    


    
評論:

    
	

		
    
			
    
			# re: snoics-reptile 網頁爬蟲2.1   (2006-10-27日更新)
				2006-10-27 22:35 | weidagang2046
    
				
    有沒有文檔之類的？  回復  更多評論
      
    
			
    
			
			
		
    
	
		
    
			
    
			# re: snoics-reptile 網頁爬蟲2.1   (2006-10-27日更新)
				2006-10-31 15:59 | 捕風
    
				
    只能抓起靜態頁面嗎？

    存不存在防火墻穿越不了的問題？  回復  更多評論
      
    
			
    
			
			
		
    
	
		
    
			
    
			# re: snoics-reptile 網頁爬蟲2.1   (2006-10-27日更新)
				2006-12-14 13:47 | 葉建輝
    
				
    snoics.jar 的原代碼好象沒有？yejianhui425@126.com

    

    yejianhui423@hotmail.com   您的MSN是多少？  回復  更多評論
      
    
			
    
			
			
		
    
	
		
    
			
    
			# re: snoics-reptile 網頁爬蟲2.1   (2006-10-27日更新)
				2007-04-21 18:56 | zx
    
				
    好像缺少com.snoics.base和com.snoics.useclass的代碼  回復  更多評論
      
    
			
    
			
			
		
    
	
		
    
			
    
			# re: snoics-reptile 網頁爬蟲2.1   (2006-10-27日更新)
				2007-05-09 14:45 | 游客
    
				
    局域網內可以使用嗎？

    支持NTLM域認證嗎？  回復  更多評論
      
    
			
    
			
			
		
    
	
		
    
			
    
			# re: snoics-reptile 網頁爬蟲2.1   (2006-10-27日更新)
				2007-06-14 09:51 | 雨夜
    
				
    不行哦,怎么還是報MAIN的意外錯誤,請麻煩給解釋下,問題出在哪,RUN.BAT文件也沒有JAR名字的錯誤哦,謝謝!  回復  更多評論
      
    
			
    
			
			
		
    
	
		
    
			
    
			# re: snoics-reptile 網頁爬蟲2.1   (2006-10-27日更新)
				2007-07-12 21:10 | 楊鑄
    
				
    最新版本怎么使用他啊，謝謝，

    需要注意那些問題！  回復  更多評論
      
    
			
    
			
			
		
    
	
		
    
			
    
			# re: snoics-reptile 網頁爬蟲2.1   (2006-10-27日更新)
				2007-08-01 23:30 | ava
    
				
    new  回復  更多評論
      
    
			
    
			
			
		
    
	
		
    
			
    
			# re: snoics-reptile 網頁爬蟲2.1   (2006-10-27日更新)
				2008-01-25 09:51 | xiao
    
				
    還有沒有最新版本.老大,能加msn嗎.xrb2008@hotmail.com  回復  更多評論
      
    
			
    
			
			
		
    
	
		
    
			
    
			# re: snoics-reptile 網頁爬蟲2.1   (2006-10-27日更新)
				2008-03-26 15:27 | 動
    
				
    能指導一下這東西怎么用嘛  回復  更多評論
      
    
			
    
			
			
		
    
	
		
    
			
    
			# re: snoics-reptile 網頁爬蟲2.1   (2006-10-27日更新)
				2008-07-07 13:27 | xmf
    
				
    能不能出份教程啊。要不你的搞得這個也浪費了，好多人想用都不會用。  回復  更多評論
      
    
			
    
			
			
		
    
	
		
    
			
    
			# re: snoics-reptile 網頁爬蟲2.1   (2006-10-27日更新)[未登錄]
				2008-07-27 12:44 | 菜鳥
    
				
    還行，就是效率太低，可以考慮優化下算法。沒看樓主的底層代碼，不過通過抓到的結果可以看出，文件的抓取完全是靠鏈接來抓取的，個人認為可以通過文件夾抓取，也就是說進入一個鏈接時，獲得頂層文件夾，通過遞歸把該鏈接各層文件夾的文件全部抓取出來，一個網站也就幾分鐘就搞定了，而我今天花了一上午都還在抓  回復  更多評論
      
    
			
    
			
			
		
    
	
		
    
			
    
			# re: snoics-reptile 網頁爬蟲2.1   (2006-10-27日更新)[未登錄]
				2008-09-10 17:55 | 我
    
				
    請問一下樓主的Spider中對js的處理中是哪些代碼啊？

      回復  更多評論
      
    
			
    
			
			
		
    
	
		
    
			
    
			# re: snoics-reptile 網頁爬蟲2.1   (2006-10-27日更新)
				2008-11-12 11:09 | softwater
    
				
    很感謝你的這套源碼，在與之類似的一些二次開發中，我借鑒了很多有用的東西，樓主的MSN是多少？有機會我想請教一些問題，另外可否提供Snoics.jar的原代碼？謝謝  回復  更多評論
      
    
			
    
			
			
		
    
	
		
    
			
    
			# re: snoics-reptile 網頁爬蟲2.1   (2006-10-27日更新)[未登錄]
				2008-12-17 13:05 | Joe
    
				
    試了一下，果然可以了，多謝分享  回復  更多評論
      
    
			
    
			
			
		
    
	
		
    
			
    
			# re: snoics-reptile 網頁爬蟲2.1   (2006-10-27日更新)
				2009-05-13 15:22 | dadbxh365
    
				
    不會用  回復  更多評論
      
    
			
    
			
			
		
    
	
		
    
			
    
			# re: snoics-reptile 網頁爬蟲2.1   (2006-10-27日更新)
				2009-12-23 13:53 | xiaodao
    
				
    請問如果要連續抓取多個站點的頁面，怎么實現呢？  回復  更多評論
      
    
			
    
			
			
		
    
	
		
    
			
    
			# re: snoics-reptile 網頁爬蟲2.1   (2006-10-27日更新)[未登錄]
				2012-04-17 09:19 | Sun
    
				
    我怎么運行不了？怎么配置呢，謝謝~~@Joe
      回復  更多評論
      
    
			
    
			
			
		
    
	
		
    
			
    
			# re: snoics-reptile 網頁爬蟲2.1   (2006-10-27日更新)[未登錄]
				2012-04-17 09:52 | Sun
    
				
    麻煩可以幫我看一下這是什么問題嗎？
    Snoics Config Base Path :D:/Workspaces/MyEclipse 8.5/Sun/bin/
    Snoics spaceChar :\+
    Snoics Config Full Path :D:/Workspaces/MyEclipse 8.5/Sun/conf/
    java.net.MalformedURLException: unknown protocol: d
    	at java.net.URL.<init>(URL.java:574)
    	at java.net.URL.<init>(URL.java:464)
    	at java.net.URL.<init>(URL.java:413)
    	at com.sun.org.apache.xerces.internal.impl.XMLEntityManager.setupCurrentEntity(XMLEntityManager.java:650)
    	at com.sun.org.apache.xerces.internal.impl.XMLVersionDetector.determineDocVersion(XMLVersionDetector.java:186)
    	at com.sun.org.apache.xerces.internal.parsers.XML11Configuration.parse(XML11Configuration.java:771)
    	at com.sun.org.apache.xerces.internal.parsers.XML11Configuration.parse(XML11Configuration.java:737)
    	at com.sun.org.apache.xerces.internal.parsers.XMLParser.parse(XMLParser.java:107)
    	at com.sun.org.apache.xerces.internal.parsers.DOMParser.parse(DOMParser.java:225)
    	at com.sun.org.apache.xerces.internal.jaxp.DocumentBuilderImpl.parse(DocumentBuilderImpl.java:283)
    	at javax.xml.parsers.DocumentBuilder.parse(DocumentBuilder.java:180)
    	at com.snoics.base.xml.XMLFactory.getDocument(Unknown Source)
    	at com.snoics.base.xml.XMLUtil.parseXMLFile(Unknown Source)
    	at com.snoics.base.xml.ReadXml.parseXMLFile(Unknown Source)
    	at com.snoics.system.conf.SystemConfig.setSystemConfigFile(Unknown Source)
    	at com.snoics.system.conf.SystemConfigFileName.initConfigPath(Unknown Source)
    	at com.snoics.system.conf.SystemConfigFileName.<init>(Unknown Source)
    	at com.snoics.system.InitSystemImpl.<init>(Unknown Source)
    	at com.snoics.system.Init.init(Unknown Source)
    	at com.snoics.system.common.SystemCommonObjectImpl.getObject(Unknown Source)
    	at com.snoics.useclass.SnoicsClass.getLog(Unknown Source)
    	at com.snoics.reptile.main.Reptile.<init>(Reptile.java:34)
    	at com.snoics.reptile.main.StartReptile.start(StartReptile.java:29)
    	at com.snoics.reptile.main.NormalMain.main(NormalMain.java:13)
    java.lang.NullPointerException
    	at com.snoics.base.xml.ReadXml.setCurrentNodeList(Unknown Source)
    	at com.snoics.system.conf.SystemConfig.getDatabaseInfo(Unknown Source)
    	at com.snoics.system.conf.SystemConfigFileName.initConfigPath(Unknown Source)
    	at com.snoics.system.conf.SystemConfigFileName.<init>(Unknown Source)
    	at com.snoics.system.InitSystemImpl.<init>(Unknown Source)
    	at com.snoics.system.Init.init(Unknown Source)
    	at com.snoics.system.common.SystemCommonObjectImpl.getObject(Unknown Source)
    	at com.snoics.useclass.SnoicsClass.getLog(Unknown Source)
    	at com.snoics.reptile.main.Reptile.<init>(Reptile.java:34)
    	at com.snoics.reptile.main.StartReptile.start(StartReptile.java:29)
    	at com.snoics.reptile.main.NormalMain.main(NormalMain.java:13)
    java.lang.NullPointerException
    	at com.snoics.base.xml.ReadXml.getCurrentNodeListLength(Unknown Source)
    	at com.snoics.system.conf.SystemConfig.getDatabaseInfo(Unknown Source)
    	at com.snoics.system.conf.SystemConfigFileName.initConfigPath(Unknown Source)
    	at com.snoics.system.conf.SystemConfigFileName.<init>(Unknown Source)
    	at com.snoics.system.InitSystemImpl.<init>(Unknown Source)
    	at com.snoics.system.Init.init(Unknown Source)
    	at com.snoics.system.common.SystemCommonObjectImpl.getObject(Unknown Source)
    	at com.snoics.useclass.SnoicsClass.getLog(Unknown Source)
    	at com.snoics.reptile.main.Reptile.<init>(Reptile.java:34)
    	at com.snoics.reptile.main.StartReptile.start(StartReptile.java:29)
    	at com.snoics.reptile.main.NormalMain.main(NormalMain.java:13)
    Exception in thread "main" java.lang.NullPointerException
    	at com.snoics.useclass.SnoicsClass.getLog(Unknown Source)
    	at com.snoics.reptile.main.Reptile.<init>(Reptile.java:34)
    	at com.snoics.reptile.main.StartReptile.start(StartReptile.java:29)
    	at com.snoics.reptile.main.NormalMain.main(NormalMain.java:13)
    @菜鳥
      回復  更多評論
      
    
			
    
			
			
		
    
	
		
    
			
    
			# re: snoics-reptile 網頁爬蟲2.1   (2006-10-27日更新)[未登錄]
				2012-11-20 14:14 | cherish
    
				
    @葉建輝

    發份snoics.jar的源碼哥們，我知道你搞到手了，嘿嘿。。。  回復  更多評論
      
    
			
    
			
			
		
    
	
		
    
			
    
			# re: snoics-reptile 網頁爬蟲2.1   (2006-10-27日更新)[未登錄]
				2012-11-20 14:16 | cherish
    
				
    忘寫郵箱了， 630562556@qq.com  謝謝哥們。   回復  更多評論
      
    
			
    
			
			
		
    
	








    





    


    

	
    
		
    
				
		
	
		
    
		
		
    只有注冊用戶登錄后才能發表評論。
    
		
    
			
		
    
			
		
    
		
		
    
		


    

		    		
		
    
		
    			
		
		
		
		
    
		
    
		
		
    
		
    
			網站導航:
		
		
    
		
    
			
		
    	
		
    
			 
		
    
		
    
			
		
    
		
    
			
				
		
    		
	
    	

    



    

				

    







    







    
        
	



主站蜘蛛池模板：
久久成人免费大片|
国产亚洲精品影视在线|
亚洲色大情网站www|
色欲色香天天天综合网站免费|
国产亚洲精久久久久久无码AV|
国产亚洲一卡2卡3卡4卡新区|
处破痛哭A√18成年片免费|
亚洲午夜久久久久久尤物
|
日本免费人成视频在线观看|
亚洲中文字幕无码一区|
一级毛片大全免费播放|
亚洲Av无码乱码在线znlu|
污视频网站免费观看|
免费人成视频在线观看不卡|
污污免费在线观看|
久久国产亚洲高清观看|
亚洲免费黄色网址|
国产99在线|亚洲|
国产精品自在自线免费观看|
羞羞漫画登录页面免费|
相泽亚洲一区中文字幕|
四虎1515hh永久久免费|
久久久免费观成人影院|
亚洲国产精品久久久久久|
91短视频免费在线观看|
eeuss免费天堂影院|
亚洲电影中文字幕|
成人AV免费网址在线观看|
青草久久精品亚洲综合专区|
中文字幕亚洲精品资源网|
免费无码A片一区二三区|
老司机午夜在线视频免费|
亚洲精品美女久久久久9999|
暖暖免费高清日本中文|
国产大片免费天天看|
久久综合亚洲色hezyo|
亚洲女初尝黑人巨高清|
中国在线观看免费高清完整版|
最近更新免费中文字幕大全|
亚洲视屏在线观看|
亚洲春色在线视频|