论坛 › Perl › perl的一个例子

zj2092 发表于 2017-5-18 09:36:51

perl的一个例子

近期本人闲来没事做了一个程序自动从一些BT网站上抓取数据并且自动发帖到我自己的论坛上，试用了几个月效果比较好，现在公布源代码供perl爱好者参考，我的qq是2637663欢迎广大perl爱好者一起沟通交流。
分几个程序组成
readcokie.pl 获取要上传主机的cookie一次获取永久在主机保存
fatie.pl   抓取源主机数据并自动发帖到目标主机
history.log 保存抓取过的数据
user.txt发帖时使用的用户列表
..........

具体程序如下
readcokie.pl
======================
# -*- coding: gb2312 -*-
#$ua->post( $url, /%form )
#$ua->post( $url, /@form )
#$ua->post( $url, /%form, $field_name => $value, ... )
#This method will dispatch a POST request on the given $url, with %form or @form providing the key/value pairs for the fill-in form content. Additional headers and content options are the same as for the get() method.
#This method will use the POST() function from HTTP::Request::Common to build the request. See the HTTP::Request::Common manpage for a details on how to pass form content and other advanced features.
#$ua->get( $url )
#$ua->get( $url , $field_name => $value, ... )
#This method will dispatch a GET request on the given $url. Further arguments can be given to initialize the headers of the request. These are given as separate name/value pairs. The return value is a response object. See the HTTP::Response manpage for a description of the interface it provides.
#$ua->agent('Mozilla/5.0');
use HTTP::Cookies;
use HTTP::Request::Common qw(POST);
use LWP::UserAgent;
$ua = LWP::UserAgent->new;
open(FILE,'D:/bin/posttools/自动发帖/bt区顶贴/cc8.cnsuk.net新沙加神话/data/user.txt');
@file=<FILE>;
for ($i=0;$i<=$#file;$i++){
chomp($file[$i]);
($user,$pass)=split(/,/,$file[$i]);
$ua->cookie_jar(HTTP::Cookies->new(file => "D://bin//posttools//自动发帖//bt区顶贴//cc8.cnsuk.net新沙加神话//data//$user//cookie.txt",
             autosave => 1));
$req =POST 'http://www1.5hxy.com/bbs/login.asp',
    [UserName => $user,
    Userpass => $pass,
    IsSave => '1',
    Eremite => '1',
    ];
$res=$ua->request($req);
$ua->cookie_jar->save;
# $ua = LWP::UserAgent->close;
}




fatie.pl
=============================

use HTTP::Cookies;
use LWP;
$ua = LWP::UserAgent->new;
$ua->agent("Mozilla/8.0";
#初始化参数
$n_file='D:/bin/posttools/自动发帖/bt区顶贴/cc8.cnsuk.net新沙加神话//';

###临时种子文件地址
#定义地址@url @postid @bankuainame
$hhttp='http://cc8.cnsuk.net';
$url='http://cc9.cnsuk.net/forum-2944-2.html';
$postid='13';
$bankuainame="$hhttp-游戏";

$url='http://cc9.cnsuk.net/forum-2944-1.html';
$postid='13';
$bankuainame="$hhttp-游戏";

$url='http://cc9.cnsuk.net/forum-2905-2.html';
$postid='13';
$bankuainame="$hhttp-游戏";

$url='http://cc9.cnsuk.net/forum-2905-1.html';
$postid='13';
$bankuainame="$hhttp-游戏";
while (1) {
for ($u=0;$u<=$#url;$u++){
$htms='';
$res = $ua->get($url[$u]);
$htms=$res->content;
print "获取 $bankuainame[$u] 版块数据 /n";
#获取后挑出有用的数据
if ($res->is_success) {
    @html=();
    @html=split(//n/,$htms);
    @link=();
    @tid=();
    @tti=();
    for(@html){
#<a href="thread-50813-1-1.html" style="font-weight: bold;color: green">[暂放]</a><span class="lighttxt">

      #if (m{^<a href="(viewthread/.php/?tid=)(/d+)&.*>(.*)</a>}){
      if (m{^<a href="(thread/-)(/d*)(/-/d*/-/d*/.html)".*?>(.*?)</a>}){
      push(@link,$1.$2.$3);
      push(@tid,$2);
      push(@tti,$4);
      }
    }
}
print "挑出有用的数据 $#link 个 /n";
#历史记录
open (FILE,$n_file.'data/history.log');
@history=();
@history=<FILE>;
close FILE;
#用户记录
open(FILE,$n_file.'data/user.txt');
@usertxt=();
@usertxt=<FILE>;
close FILE;
#提交记录
print "读取用户信息 /n";
#检查帖子是否在历史,不在就发帖
$chazhao=0;#是否找到0没找到
for ($x=0;$x<=$#tid;$x++){
for ($a=0;$a<=$#history;$a++){
    if ($history[$a]==$tid[$x]){
      $a=$#history+1;
      $chazhao=1;
    }
}
print "帖子$tti[$x] $tid[$x] 找到标志为 $chazhao/n";
if ($chazhao==0){ #如果历史没有就发帖
    #获取源帖子内容
    $url="$hhttp/$link[$x]";
    $res = $ua->get($url);
    $htmls=$res->content;
    #open (FILE,'>D:/bin/posttools/自动发帖/bt区顶贴/bbs.btpig.com猪猪乐园/bin/temp.log'); #debug
    #print FILE $htmls;                      #debug
    #close FILE;                         #debug
    @html=();
    @html=split(//n/,$htmls);
    @torlink=();
    @tortid=();
    @torxylink=();
    @tortti=();
    $zd=0;
    #获取所有种子地址
      for(@html){
      #<a href="viewthread.php?tid=645515&extra=page%3D1" style="font-weight: bold;color: blue">[原创][美国][二战][二战电影五部] 英文字幕</a>
      #<a href="attachment.php?aid=26721" target="_blank" class="bold">金庸群侠传全集★cc8cnsuk.net新沙加神话★VItas★.torrent</a> (2007-4-28 21:12, 17.35 K)<br>

      if (m{<a href="(attachment/.php/?aid=)(/d+)".+?>(.+/.torrent)</a>}){
      push(@torlink,$1.$2);
      push(@tortid,$2);
      push(@tortti,$3);
      $zd=1;
      }
      }
    #找到种子文件才发帖，否则不发帖
    if ($zd==1){
    $userc=int(rand($#usertxt));#选择哪个用户
    chomp($usertxt[$userc]);
    ($user,$pass)=split(/,/,$usertxt[$userc]);
    print "决定用户$userc发帖子/n";
    #获取种子
    @torxylink=();

    for ($f=0;$f<=$#tortid;$f++){
      $err=0;
      $url="$hhttp/$torlink[$f]";
      $res = $ua->get($url,referer=>$hhttp,);
      print "种子获取成功,开始上传种子/n";
      if ($res->is_success) {
      $torrent=$res->content;
      $filename="$n_file"."torrent//temp/.torrent";
      open (FILE2,">$filename";
      binmode(FILE2);
      print FILE2 $torrent;
      close FILE2;
      #上传种子
      w1:{$ua->cookie_jar(HTTP::Cookies->new(file => "$n_file"."data//$user//cookie/.txt",
      autosave => 0));
      $ua->timeout(240);
      $response = $ua->post('http://www3.5hxy.com/bbs/UploadAttachment.asp',
      Content_Type => 'form-data',
      Content=> [ file => ["$filename"],
            ],
      referer=>'http://www3.5hxy.com/bbs/',);
      #获取上传目标种子地址
      #<a target=_blank href=UpFile/UpAttachment/2007-2/20072731345.torrent>http://www.5hxy.com/UpFile/UpAtt ... 20072731345.torrent</a>
      if ($response->content=~m{(<a target=_blank href=.*?/.torrent.*?>}m){
      push(@torxylink,$1.$tortti[$f].'</a>');
      }else{
      if ($err<=5){#如果没有错误5次继续尝试上传
      $err++;
      goto w1;
      }      
      }
      last w1;
      }
      }
    print "种子上传完毕/n";
    #sleep 3;
    }
    #拆分源帖子
    $zzdaot=0;
    $zzdaow=0;
    for ($s=0;$s<=$#html;$s++){
      #找帖子头部
      if ($zzdaot==0){
      if ($html[$s]=~m/<table width="95%" border="0" cellspacing="0" cellpadding="0"/){
      $tou=$s+39; #+5是头部偏移量
      $zzdaot=1;
      }
      }elsif ($zzdaow==0){
      if ($html[$s]=~m/<table width="95%" border="0" cellspacing="0" cellpadding="0"/){
      $wei=$s-30; #尾部偏移量
      $zzdaow=1;
      }
      }
    }
    #如果只找到头没有找到尾那么尾偏移30；
    if ($zzdaot==1 and $zzdaow=0){
      $wei=$tou+30;
    }
    #获取所有图片地址
    print "获取所有图片地址/n";
    @imgh=();
    for($b=$tou;$b<=$wei;$b++){
      @imgh=split(/ /,$html[$b]);
      for($j=0;$j<=$#imgh;$j++){
      #
      if ($imgh[$j]=~m{src="(.+/.jpg)"}){
      $imgf=$1;
      if ($imgf=~m/http/){
          push(@img,"/$imgf/";
          }else{
          push(@img,"/$hhttp/$imgf/";
          }
      }
      }
    }
    print "合并数据准备发帖/n";
    $constor='';
    #合并种子地址
    for ($b=0;$b<=$#torxylink;$b++){
      $constor.="<br><br> 本站种子地址torxylink[$b] <br><br>";
      }
    @torxylink=();
    #合并图片地址
    for ($b=0;$b<=$#img;$b++){
      $constor.="<br><br> $img[$b] <br><br>";
      }
    @img=();
    #合并要发送的数据
    $cons=$constor;
    for ($g=$tou;$g<=$wei;$g++){
      $cons.=$html[$g];
      }
    $cons=~s/<i.*?//>//mg;
    $cons=~s/<d.*?>//mg;
    $cons=~s/<//d.*?>//mg;
    $cons.="<br><br>此数据来自$hhttp/$link[$x] <br><br>";
    #####开始发帖子哎，写了这么多终于可以发帖子了，真不容易
    $ua->cookie_jar(HTTP::Cookies->new(file => "$n_file"."data//$user//cookie/.txt",
      autosave => 0));
      $ua->timeout(240);
      $url='http://www3.5hxy.com/bbs/AddTopic.asp?ForumID='.$postid[$u];
      #开始发帖子
      print "开始发帖/n";
      $response = $ua->post( $url,
      ,
      Subject => $tti[$x] ,
      Body => $cons,
      UpFileId=>1,
      #content => $cons,
      #DisableYBBCode => '0'
      ],
      referer=>'http://www3.5hxy.com/bbs/', );


    }
      print "帖子 $tti[$x]$tid[$x] 记录历史完毕 /n";
      open (FILE,">>$n_file".'data/history.log'); #回过帖子的记录起来
      print FILE "$tid[$x]/n";
      close FILE;
}
print "==================== $bankuainame[$u] =======================/n";
$chazhao=0;
}
}
print "休眠1200秒 /n";
sleep 1200;
}

查看完整版本: perl的一个例子