使用数据集中的数据填写HTML表单，然后将结果存储到文件中

Question

使用数据集中的数据（CSV，JSON或类似的数据），在网站上填写HTML表单的最有效方法是什么，然后检索该表格向另一个数据集提交了？我希望能够多次执行此操作，每次都用不同的参数填充表单，总是从我的输入数据集中检索这些参数。

我正在阅读有关硒和htmlunit的信息，这些硒和htmlunit似乎也做了类似的事情。但是他们需要安装依赖项并学习如何使用它们。会过度杀伤吗？是否可以通过编写自己的脚本来做到这一点？

我尝试编写一个PHP curl脚本，但是该脚本没有生成请求所需的标题或cookie，因此我无法检索任何内容。

<?php
/**
* Send a POST requst using cURL
* @param string $url to request
* @param array $post values to send
* @param array $options for cURL
* @return string
*/
function curl_post($url, array $post = NULL, array $options = array())
{
    $defaults = array(
        CURLOPT_POST => 1,
        CURLOPT_HEADER => 0,
        CURLOPT_URL => $url,
        CURLOPT_FRESH_CONNECT => 1,
        CURLOPT_RETURNTRANSFER => 1,
        CURLOPT_FORBID_REUSE => 1,
        CURLOPT_TIMEOUT => 4,
        CURLOPT_POSTFIELDS => http_build_query($post)
    );
    $ch = curl_init();
    curl_setopt_array($ch, ($options + $defaults));
    if( ! $result = curl_exec($ch))
    {
        trigger_error(curl_error($ch));
    }
    curl_close($ch);
    return $result;
} 
?>

我不确定这是正确的方法。

任何提示/资源都将不胜感激。

Answer 1

您可以在Selenium中写入此脚本 - 它只是一个浏览器驱动程序，它将从客户端填充表单。如果页面不是很复杂，则可以在Python中使用库请求，并直接将发布数据发送到最后页面。请求是一个更快的lib，并且要编写一个发送帖子数据的脚本，您需要5分钟的学习。