从 URL 加载下一组结果 - PHP cURL



寻求帮助,我正在使用 curl 从所述网站中提取数据,在网站上他们在第一页上有 10 个结果,然后下一组 10 个结果在下一个附加 ?page=2 依此类推。

我确实尝试了一个循环,但它似乎不起作用,我可以处理任何建议,最好是滚动加载更多,但想先让他的卷曲部分正确。

下面是我用作示例的测试代码,完整版包括附加到 URL 的 post 参数,但只需要下一个结果

<?php
// Main url but the next result will be on https://example.org/data/?page=2
$url = "https://example.org/data";
$result = get($url) ;
function get ($url) {
$curl = curl_init();
curl_setopt($curl, CURLOPT_URL, $url);
curl_setopt($curl, CURLOPT_RETURNTRANSFER, true);
curl_setopt($curl, CURLOPT_USERAGENT, 'Mozilla/5.0 (Windows NT 6.1; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/40.0.2214.85 Safari/537.36');
$result = curl_exec($curl);
curl_close($curl);
return $result;
}
preg_match_all('!<h1>(.*?)</h1>!',$result,$title);
for ($i = 0; $i < count($result[1]); $i++) {
echo '<h1>' . $title[1][$i] . '"</h1>';
}

对于所有像我一样阅读本文以学习的人,一旦值匹配,上面的代码也适用于任何给定 URL 上 H1 标头的基本提取,如果我可以帮助解决新编码人员的任何基本问题,我会的。

修改后的示例在 URL 中显示页面 1,2 示例。

<?php
for ($i = 1; $i <= 2; $i++) {
$url = "https://www.gamespot.com/search/?q=gta&page=". $i;
echo $url . "<br>";
}
$result = get($url) ;
function get ($url) {
$curl = curl_init();
curl_setopt($curl, CURLOPT_URL, $url);
curl_setopt($curl, CURLOPT_RETURNTRANSFER, true);
curl_setopt($curl, CURLOPT_USERAGENT, 'Mozilla/5.0 (Windows NT 6.1; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/40.0.2214.85 Safari/537.36');
$result = curl_exec($curl);
curl_close($curl);
return $result;
}
preg_match_all('!<h4 class="media-title" style="margin:0;padding-bottom:4px;">
<span style="font-weight:bold;"><a href=".*?">(.*?)</a></span>
</h4>!',$result,$title);
for ($i = 0; $i < count($title[1]); $i++) {
echo '<p>' . $title[1][$i] . '</p>';
}

好的,经过几个小时的研究和失败,我已经完成了以下工作,正如我所希望的那样,所以我希望与您分享。

我设置了一些变量,例如下面的值

// Get the value of $pg through the GET value of 'page'
$pg = $_GET['page'];
// Increase the $pg variable when clicking $next/$prev with +1 or -1
$next = $pg +1;
$prev = $pg -1;
// Append the $pg value to the CURL url
$url = "https://www.gamespot.com/search/?q=gta&page=".$pg;
// The next & previous
<?php
echo '<div class="btn-group special">';
// Added an IF statement so that this does not go to the -1 values
if ($prev >= 1) {
echo '<a href="results.php?page='.$prev.'" class="btn btn-info" role="button"><i class="fas fa-chevron-left"></i></a>';
} else {
// Nothing to display
}
echo '<a href="results.php?page='.$next.'" class="btn btn-info" role="button"><i class="fas fa-chevron-right"></i></a>';
echo '</div>'
?>

相关内容

最新更新