Recuperando o conteúdo da página usando cURL

Nesse contexto, você procura extrair o conteúdo de uma página de resultados de pesquisa do Google usando cURL. Apesar da tentativa de definir agentes de usuário e várias opções, a recuperação bem-sucedida do conteúdo da página escapou de você. Redirecionamentos ou erros de "página movida" continuam a atrapalhar seus esforços.

Acredita-se que o problema pode resultar da codificação de caracteres especiais na string de consulta. Para mitigar isso, são necessárias alterações em seu código PHP.

Esta é a abordagem:

function get_web_page($url)
{
    $user_agent = 'Mozilla/5.0 (Windows NT 6.1; rv:8.0) Gecko/20100101 Firefox/8.0';

    $options = array(
        CURLOPT_CUSTOMREQUEST => "GET",
        CURLOPT_POST           => false,
        CURLOPT_USERAGENT      => $user_agent,
        CURLOPT_COOKIEFILE     => "cookie.txt",
        CURLOPT_COOKIEJAR      => "cookie.txt",
        CURLOPT_RETURNTRANSFER => true,
        CURLOPT_HEADER         => false,
        CURLOPT_FOLLOWLOCATION => true,
        CURLOPT_ENCODING       => "",
        CURLOPT_AUTOREFERER    => true,
        CURLOPT_CONNECTTIMEOUT => 120,
        CURLOPT_TIMEOUT        => 120,
        CURLOPT_MAXREDIRS      => 10
    );

    $ch = curl_init($url);
    curl_setopt_array($ch, $options);
    $content = curl_exec($ch);
    $err = curl_errno($ch);
    $errmsg = curl_error($ch);
    $header = curl_getinfo($ch);
    curl_close($ch);

    $header['errno']   = $err;
    $header['errmsg']  = $errmsg;
    $header['content'] = $content;
    return $header;
}

Uso:

$result = get_web_page($url);

if ($result['errno'] != 0) {
    // Handle errors: bad URL, timeout, redirect loop
}

if ($result['http_code'] != 200) {
    // Handle errors: no page, no permissions, no service
}

$page = $result['content'];

Com este código, agora você pode recuperar o conteúdo exato da página conforme exibido em seu navegador. Ao levar em conta os caracteres especiais na string de consulta, você pode superar os obstáculos enfrentados anteriormente.