解决php curl_multi批处理造成CPU负载过高问题

今天在利用curl_multi函数来获取一些外网内容时发现只要一运行curl_multi函数我的cpu就占得非常的高,后来看一站长分享了此问题解决方法我也整理一下与各位分享一下,希望对大家有帮助.

简单的cURL处理如下,代码如下:

1. $ch = curl_init(); 
2. curl_setopt($ch, CURLOPT_URL, 'http://www.phpfensi.com'); 
3. curl_setopt($ch, CURLOPT_RETURNTRANSFER, TRUE); 
4. $con = curl_exec($ch); 
5. curl_close($ch); 

cURL还提供了批量处理会话,下面是cURL批量处理相关函数:

curl_multi_init — 返回一个新cURL批处理句柄

curl_multi_add_handle — 向curl批处理会话中添加单独的curl句柄

curl_multi_exec — 解析一个cURL批处理句柄

curl_multi_getcontent — 如果设置了CURLOPT_RETURNTRANSFER，则返回获取的输出的文本流

curl_multi_select — 等待所有cURL批处理中的活动连接

curl_multi_info_read — 获取当前解析的cURL的相关传输信息

curl_multi_remove_handle — 移除curl批处理句柄资源中的某个句柄资源

curl_multi_close — 关闭一组cURL句柄

看下面使用curl multi批处理的例子,代码如下:

1. /** 
2.  * cURL multi批量处理 
3.  *  
4.  * @author mckee 
5.  * @link http://www.phpfensi.com 
6.  *  
7.  */ 
8.  
9. $url_array = array( 
10.     'http://www.phpfensi.net/', 
11.     'http://www.phpfensi.net/php/627.html', 
12.     'http://www.phpfensi.net/php/258.html' 
13. ); 
14.  
15. $handles = $contents = array();  
16.  
17. //初始化curl multi对象 
18. $mh = curl_multi_init(); 
19.  
20. //添加curl 批处理会话 
21. foreach($url_array as $key => $url) 
22. { 
23.     $handles[$key] = curl_init($url); 
24.     curl_setopt($handles[$key], CURLOPT_RETURNTRANSFER, 1); 
25.     curl_setopt($handles[$key], CURLOPT_TIMEOUT, 10); 
26.      
27.     curl_multi_add_handle($mh, $handles[$key]); 
28. }//开源代码phpfensi.com 
29.  
30. //======================执行批处理句柄================================= 
31. $active = null; 
32. do { 
33.     $mrc = curl_multi_exec($mh, $active); 
34. } while ($mrc == CURLM_CALL_MULTI_PERFORM); 
35.  
36.  
37. while ($active and $mrc == CURLM_OK) { 
38.      
39.     if(curl_multi_select($mh) === -1){ 
40.         usleep(100); 
41.     } 
42.     do { 
43.         $mrc = curl_multi_exec($mh, $active); 
44.     } while ($mrc == CURLM_CALL_MULTI_PERFORM); 
45.  
46. } 
47. //==================================================================== 
48.  
49. //获取批处理内容 
50. foreach($handles as $i => $ch) 
51. { 
52.     $content = curl_multi_getcontent($ch); 
53.     $contents[$i] = curl_errno($ch) == 0 ? $content : ''; 
54. } 
55.  
56. //移除批处理句柄 
57. foreach($handles as $ch) 
58. { 
59.     curl_multi_remove_handle($mh, $ch); 
60. } 
61.  
62. //关闭批处理句柄 
63. curl_multi_close($mh); 
64.  
65. print_r($contents); 

上面这段程序重点是执行批处理的那段,普通的处理,代码如下:

do { $n=curl_multi_exec($mh,$active); } while ($active); 

会造成CPU Loading过高,因为$active要等全部url数据接受完毕才变成false,所以这里用到了curl_multi_exec的返回值判断是否还有数据,当有数据的时候就不停调用curl_multi_exec,没有执行数据就会sleep,如此就会避免CPU Loading 100%了.