文章详情

短信预约-IT技能 免费直播动态提醒

请输入下面的图形验证码

提交验证

短信预约提醒成功

PHP抓取网络数据的6种常见方法

2023-09-02 14:09

关注

本小节的名称为 fsockopen,curl与file_get_contents,具体是探讨这三种方式进行网络数据输入输出的一些汇总。这里先简单罗列一下一些常见的抓取网络数据的一些方法。

1. 用 file_get_contents 以 get 方式获取内容:

// $url = ‘https://www.ztmbz.com’;

$url = ‘https://www.ztmbz.com/php/sock.php’;

$html = file_get_contents($url);

echo $html;

2. 用fopen打开url,以get方式获取内容

// $url = ‘http://www.nowamagic.net’;

$url = ‘http://www.nowamagic.net/php/sock.php’;

$fp = fopen($url, ‘r’);

stream_get_meta_data($fp);

$result = ”;

while(!feof($fp))

{

$result .= fgets($fp, 1024);

}

echo “url body: $result”;

fclose($fp);

3. 用file_get_contents函数,以post方式获取url

$data = array(

‘foo’=>’bar’,

‘baz’=>’boom’,

‘site’=>’www.nowamagic.net’,

‘name’=>’nowa magic’);

$data = http_build_query($data);

//$postdata = http_build_query($data);

$options = array(

‘http’ => array(

‘method’ => ‘POST’,

‘header’ => ‘Content-type:application/x-www-form-urlencoded’,

‘content’ => $data

//’timeout’ => 60 * 60 // 超时时间(单位:s)

)

);

$url = “http://www.nowamagic.net/test2.php”;

$context = stream_context_create($options);

$result = file_get_contents($url, false, $context);

echo $result;

4. 用 fsockopen 函数打开url,以get方式获取完整的数据,包括header和body

// $url = ‘https://www.ztmbz.com’;

$url = ‘https://www.ztmbz.com:80/php/sock.php?site=xiaoerhu.com’;

function get_url($url,$cookie=false)

{

$url = parse_url($url);

$query = $url[‘path’].”?”.$url[‘query’];

echo “Query:”.$query;

$fp = fsockopen( $url[‘host’], $url[‘port’]?$url[‘port’]:80 , $errno, $errstr, 30);

if (!$fp)

{

return false;

}

else {

$request = “GET $query HTTP/1.1\r\n”;

$request .= “Host: $url[host]\r\n”;

$request .= “Connection: Close\r\n”;

if($cookie) $request.=”Cookie: $cookie\n”;

$request.=”\r\n”;

fwrite($fp,$request);

$result = ”;

while(!feof($fp))

{

$result .= @fgets($fp, 1024);

}

fclose($fp);

return $result;

}

}

//获取url的html部分,去掉header

function GetUrlHTML($url,$cookie=false)

{

$rowdata = get_url($url,$cookie);

if($rowdata)

{

$body= stristr($rowdata,”\r\n\r\n”);

$body=substr($body,4,strlen($body));

return $body;

}

return false;

}

echo get_url($url);

echo GetUrlHTML($url);

5. 用fsockopen函数打开url,以POST方式获取完整的数据,包括header和body

// $url = ‘https://www.ztmbz.com’;

$url = ‘https://www.ztmbz.com:80/php/sock.php?site=xiaoerhu.com’;

function HTTP_Post($URL,$data,$cookie, $referer=””)

{

// parsing the given URL

$URL_Info=parse_url($URL);

// Building referrer

if($referer==””) // if not given use this script as referrer

$referer=“www.ztmbz.com”;

// making string from $data

foreach($data as $key=> $value)

$values[]=”$key=”.urlencode($value);

$data_string=implode(“&”,$values);

// Find out which port is needed – if not given use standard (=80)

if(!isset($URL_Info[“port”]))

$URL_Info[“port”]=80;

$request = ”;

// building POST-request:

$request.=”POST “.$URL_Info[“path”].” HTTP/1.1\n”;

$request.=”Host: “.$URL_Info[“host”].”\n”;

$request.=”Referer: $referer\n”;

$request.=”Content-type: application/x-www-form-urlencoded\n”;

$request.=”Content-length: “.strlen($data_string).”\n”;

$request.=”Connection: close\n”;

$request.=”Cookie: $cookie\n”;

$request.=”\n”;

$request.=$data_string.”\n”;

$fp = fsockopen($URL_Info[“host”],$URL_Info[“port”]);

fputs($fp, $request);

$result = ”;

while(!feof($fp))

{

$result .= fgets($fp, 1024);

}

fclose($fp);

return $result;

}

$data = array(

‘foo’=>’bar’,

‘baz’=>’boom’,

‘site’=>’www.ztmbz.com’,

‘name’=>’nowa magic’);

$cookie = ”;

$referer = ‘https://www.ztmbz.com’;

echo HTTP_Post($url, $data, $cookie, $referer);

6. 使用curl库,使用curl库之前,可能需要查看一下php.ini是否已经打开了curl扩展。

使用 curl 代码比较简洁,代码也比较规范,容易理解:

// $url = ‘https://www.ztmbz.com’;

$url = ‘https://www.ztmbz.com:80/php/sock.php?site=xiaoerhu.com’;

$ch = curl_init();

$timeout = 5;

curl_setopt ($ch, CURLOPT_URL, $url);

curl_setopt ($ch, CURLOPT_RETURNTRANSFER, 1);

curl_setopt ($ch, CURLOPT_CONNECTTIMEOUT, $timeout);

$file_contents = curl_exec($ch);

curl_close($ch);

echo $file_contents;

这里就大概列举这么 6 种抓取网络数据的方式,也是比较常见的,让大家先有个总体的理解,还有各方法的比较。

来源地址:https://blog.csdn.net/u011055144/article/details/128748497

阅读原文内容投诉

免责声明:

① 本站未注明“稿件来源”的信息均来自网络整理。其文字、图片和音视频稿件的所属权归原作者所有。本站收集整理出于非商业性的教育和科研之目的,并不意味着本站赞同其观点或证实其内容的真实性。仅作为临时的测试数据,供内部测试之用。本站并未授权任何人以任何方式主动获取本站任何信息。

② 本站未注明“稿件来源”的临时测试数据将在测试完成后最终做删除处理。有问题或投稿请发送至: 邮箱/279061341@qq.com QQ/279061341

软考中级精品资料免费领

  • 历年真题答案解析
  • 备考技巧名师总结
  • 高频考点精准押题
  • 2024年上半年信息系统项目管理师第二批次真题及答案解析(完整版)

    难度     807人已做
    查看
  • 【考后总结】2024年5月26日信息系统项目管理师第2批次考情分析

    难度     351人已做
    查看
  • 【考后总结】2024年5月25日信息系统项目管理师第1批次考情分析

    难度     314人已做
    查看
  • 2024年上半年软考高项第一、二批次真题考点汇总(完整版)

    难度     433人已做
    查看
  • 2024年上半年系统架构设计师考试综合知识真题

    难度     221人已做
    查看

相关文章

发现更多好内容

猜你喜欢

AI推送时光机
位置:首页-资讯-后端开发
咦!没有更多了?去看看其它编程学习网 内容吧
首页课程
资料下载
问答资讯