<!-- @page { margin: 2cm } P { margin-bottom: 0.21cm } A:link { so-language: zxx } -->
1 、下載 nutch-1.0.tar.gz. http://apache.etoak.com/lucene/nutch/
2 、解壓縮 nutch-1.0.tar.gz, 放在自己熟悉的目錄下面,比如 workspace.
3 、解壓完后會(huì)有一個(gè)目錄: webapps. 這個(gè)目錄是 hadoop 自己所對(duì)應(yīng)的頁(yè)面。
datanode 、 hdfs 、 job 、 secondary 、 static 、 task
4 、下載 tomcat 。 5.5 版本以上的都行,然后進(jìn)行配置。 Sudo gedit /etc/profile 配置你的 JAVA_HOME 、 TOMCAT_HOME.
5 、打開(kāi) tomcat 的 conf/server.xml 。配置一個(gè)虛擬的目錄
<Context path="/crawl" docBase="/home/user/tools/nutch-1.0/webapps/task/" reloadable="true" debug="0"/>
6 、在 task 的目錄下面就可有寫(xiě) jsp 頁(yè)面了。在 task 下有一個(gè) WEB-INF. 在它下面建立一個(gè) classes 文件夾。這里面主要放的是 .class 和 lib.
7 、 nutch 所編譯生成的 .class 文件和所需要的 lib 都要拷貝到 /WEB-INF/classes/.
8 、最主要的是在 nutch1.0 的目錄下面有一個(gè) plugins 。這個(gè)也要放在 /WEB-INF/classes/.
9 、同時(shí)拷貝完了還不行,因?yàn)檫€沒(méi)有做一些其它的相應(yīng)配置:
<a> : hadoop-env.sh 改變 JAVA_HOME.
<b> : crawl-urlfilter.txt 改變抓取的 URL.
<c> : regex-urlfilter.txt 屏蔽 URL 的后綴 .
<d> :所拷貝的 plugins 文件目錄需和 nutch-default.xml 放在同一目錄下面,如果不是需要改變 nutch-default.xml 中配置 plugin 的路徑。
要不然會(huì)報(bào) plugin.floders not find 等錯(cuò)誤。
10 、因?yàn)槲覀兪窃陧?yè)面來(lái)啟動(dòng) nutch 的,當(dāng)然 nutch 所抓取的頁(yè)面得有存放位置。目前我是放在 /tomcat/bin/ : 在這個(gè)目錄下面我建立了
myUrls ---- > url.txt -----> http://www.163.com/
crawl : 存放抓取完后頁(yè)面存放路徑。
11 、頁(yè)面的部分就很簡(jiǎn)單了。兩個(gè)輸入框 : dept 、 topN. 如果想加 thread ,也可以。然后就是提交??梢允且粋€(gè) jsp 也可以是一個(gè) servlet.( 注意要把所編譯 的 .class 文件放到 /WEB-INF/classes/).
12 、打開(kāi)瀏覽器啟動(dòng)下試試。不報(bào)錯(cuò)說(shuō)明它已經(jīng)啟動(dòng)了,或者是去 tomcat/bin/crawl/ 看看有沒(méi)有東東。
更多文章、技術(shù)交流、商務(wù)合作、聯(lián)系博主
微信掃碼或搜索:z360901061

微信掃一掃加我為好友
QQ號(hào)聯(lián)系: 360901061
您的支持是博主寫(xiě)作最大的動(dòng)力,如果您喜歡我的文章,感覺(jué)我的文章對(duì)您有幫助,請(qǐng)用微信掃描下面二維碼支持博主2元、5元、10元、20元等您想捐的金額吧,狠狠點(diǎn)擊下面給點(diǎn)支持吧,站長(zhǎng)非常感激您!手機(jī)微信長(zhǎng)按不能支付解決辦法:請(qǐng)將微信支付二維碼保存到相冊(cè),切換到微信,然后點(diǎn)擊微信右上角掃一掃功能,選擇支付二維碼完成支付。
【本文對(duì)您有幫助就好】元
