Запуск Selenium Webdriver з проксі-сервером у Python


84

Я намагаюся запустити скрипт Selenium Webdriver в Python, щоб виконати деякі основні завдання. Я можу змусити робота чудово функціонувати, запускаючи його через інтегральний інтерфейс Selenium IDE (тобто: просто отримуючи графічний інтерфейс для повторення моїх дій). Однак, коли я експортую код як сценарій Python і намагаюся виконати його з командного рядка, браузер Firefox відкриється, але не зможе отримати доступ до початкової URL-адреси (у командний рядок повертається помилка, і програма зупиняється). Це відбувається зі мною незалежно від того, до якого веб-сайту і т.д. я намагаюся отримати доступ.

Я включив сюди дуже базовий код для демонстрації. Я не думаю, що я правильно включив розділ проксі-коду, оскільки помилка, що повертається, видається проксі-сервером.

Будь-яка допомога буде вдячна.

Наведений нижче код просто призначений для відкриття www.google.ie та пошуку слова "селен". Для мене він відкриває порожній браузер Firefox і зупиняється.

from selenium import webdriver
from selenium.webdriver.common.by import By
from selenium.webdriver.support.ui import Select
from selenium.common.exceptions import NoSuchElementException
import unittest, time, re
from selenium.webdriver.common.proxy import *

class Testrobot2(unittest.TestCase):
    def setUp(self):

        myProxy = "http://149.215.113.110:70"

        proxy = Proxy({
        'proxyType': ProxyType.MANUAL,
        'httpProxy': myProxy,
        'ftpProxy': myProxy,
        'sslProxy': myProxy,
        'noProxy':''})

        self.driver = webdriver.Firefox(proxy=proxy)
        self.driver.implicitly_wait(30)
        self.base_url = "https://www.google.ie/"
        self.verificationErrors = []
        self.accept_next_alert = True

    def test_robot2(self):
        driver = self.driver
        driver.get(self.base_url + "/#gs_rn=17&gs_ri=psy-ab&suggest=p&cp=6&gs_id=ix&xhr=t&q=selenium&es_nrs=true&pf=p&output=search&sclient=psy-ab&oq=seleni&gs_l=&pbx=1&bav=on.2,or.r_qf.&bvm=bv.47883778,d.ZGU&fp=7c0d9024de9ac6ab&biw=592&bih=665")
        driver.find_element_by_id("gbqfq").clear()
        driver.find_element_by_id("gbqfq").send_keys("selenium")

    def is_element_present(self, how, what):
        try: self.driver.find_element(by=how, value=what)
        except NoSuchElementException, e: return False
        return True

    def is_alert_present(self):
        try: self.driver.switch_to_alert()
        except NoAlertPresentException, e: return False
        return True

    def close_alert_and_get_its_text(self):
        try:
            alert = self.driver.switch_to_alert()
            alert_text = alert.text
            if self.accept_next_alert:
                alert.accept()
            else:
                alert.dismiss()
            return alert_text
        finally: self.accept_next_alert = True

    def tearDown(self):
        self.driver.quit()
        self.assertEqual([], self.verificationErrors)

if __name__ == "__main__":
    unittest.main()

Відповіді:


41

Працює у мене таким чином (подібно до @Amey та @ user4642224 коду, але трохи коротше):

from selenium import webdriver
from selenium.webdriver.common.proxy import Proxy, ProxyType

prox = Proxy()
prox.proxy_type = ProxyType.MANUAL
prox.http_proxy = "ip_addr:port"
prox.socks_proxy = "ip_addr:port"
prox.ssl_proxy = "ip_addr:port"

capabilities = webdriver.DesiredCapabilities.CHROME
prox.add_to_capabilities(capabilities)

driver = webdriver.Chrome(desired_capabilities=capabilities)

2
це працює, дякую. дивно, що в документах сказано, що вам потрібно використовувати віддалений драйвер.
Ман,

драйвер = веб-драйвер.
Римо

33

Як щодо чогось такого

PROXY = "149.215.113.110:70"

webdriver.DesiredCapabilities.FIREFOX['proxy'] = {
    "httpProxy":PROXY,
    "ftpProxy":PROXY,
    "sslProxy":PROXY,
    "noProxy":None,
    "proxyType":"MANUAL",
    "class":"org.openqa.selenium.Proxy",
    "autodetect":False
}

# you have to use remote, otherwise you'll have to code it yourself in python to 
driver = webdriver.Remote("http://localhost:4444/wd/hub", webdriver.DesiredCapabilities.FIREFOX)

Детальніше про це ви можете прочитати тут .


Ця відповідь добре для мене спрацювала. Якщо хтось інший намагається зробити це за допомогою Edge, webdriver.DesiredCapabilities.EDGE['proxy']це не впливає, оскільки Microsoft Edge наразі не має налаштувань проксі-сервера (щоб використовувати Edge з проксі-сервером, потрібно налаштувати проксі-сервер в налаштуваннях мережевого підключення Windows) .
Steve HHH

1
Повний детальний документ див .: github.com/SeleniumHQ/selenium/wiki/…
LeckieNi,

14

Моє рішення:

def my_proxy(PROXY_HOST,PROXY_PORT):
        fp = webdriver.FirefoxProfile()
        # Direct = 0, Manual = 1, PAC = 2, AUTODETECT = 4, SYSTEM = 5
        print PROXY_PORT
        print PROXY_HOST
        fp.set_preference("network.proxy.type", 1)
        fp.set_preference("network.proxy.http",PROXY_HOST)
        fp.set_preference("network.proxy.http_port",int(PROXY_PORT))
        fp.set_preference("general.useragent.override","whater_useragent")
        fp.update_preferences()
        return webdriver.Firefox(firefox_profile=fp)

Потім зателефонуйте в свій код:

my_proxy(PROXY_HOST,PROXY_PORT)

У мене були проблеми з цим кодом, оскільки я передавав рядок як номер порту:

 PROXY_PORT="31280"

Це важливо:

int("31280")

Ви повинні передати ціле число замість рядка, інакше ваш профіль firefox не буде встановлений належним чином для порту, і підключення через проксі не буде працювати.


1
Порт потрібно перетворити на int? Це зробило б проксі приклад Firefox на офіційній сторінці неправильно: seleniumhq.org/docs/04_webdriver_advanced.jsp У своєму прикладі, PROXYHOST: ProxyPort передається у вигляді рядка.
Підерман

@Pyderman, ти плутаєш Proxy()клас із FirefoxProfile()класом. Використання налаштувань профілю ви повинні передати IP і порт окремо, і лиття portв int(). У Proxy()класі ви просто передаєте рядок, що містить "IP: PORT", і, звичайно, це робить решту роботи за вас.
m3nda

7

Спробуйте також налаштувати проксі-сервер sock5. Я стикався з тією ж проблемою, і вона вирішується за допомогою проксі-сервера socks

def install_proxy(PROXY_HOST,PROXY_PORT):
        fp = webdriver.FirefoxProfile()
        print PROXY_PORT
        print PROXY_HOST
        fp.set_preference("network.proxy.type", 1)
        fp.set_preference("network.proxy.http",PROXY_HOST)
        fp.set_preference("network.proxy.http_port",int(PROXY_PORT))
        fp.set_preference("network.proxy.https",PROXY_HOST)
        fp.set_preference("network.proxy.https_port",int(PROXY_PORT))
        fp.set_preference("network.proxy.ssl",PROXY_HOST)
        fp.set_preference("network.proxy.ssl_port",int(PROXY_PORT))  
        fp.set_preference("network.proxy.ftp",PROXY_HOST)
        fp.set_preference("network.proxy.ftp_port",int(PROXY_PORT))   
        fp.set_preference("network.proxy.socks",PROXY_HOST)
        fp.set_preference("network.proxy.socks_port",int(PROXY_PORT))   
        fp.set_preference("general.useragent.override","Mozilla/5.0 (Macintosh; Intel Mac OS X 10_9_3) AppleWebKit/537.75.14 (KHTML, like Gecko) Version/7.0.3 Safari/7046A194A")
        fp.update_preferences()
        return webdriver.Firefox(firefox_profile=fp)

Потім зателефонуйте install_proxy ( ip , port ) зі своєї програми.


як би ви змінили це, щоб прийняти облікові дані проксі?
nomaam

6

Якщо хтось шукає рішення, ось як:

from selenium import webdriver
PROXY = "YOUR_PROXY_ADDRESS_HERE"
webdriver.DesiredCapabilities.FIREFOX['proxy']={
    "httpProxy":PROXY,
    "ftpProxy":PROXY,
    "sslProxy":PROXY,
    "noProxy":None,
    "proxyType":"MANUAL",
    "autodetect":False
}
driver = webdriver.Firefox()
driver.get('http://www.whatsmyip.org/')

6

Довірена особа з верифікацією. Це цілком новий сценарій python у посиланні на зразок сценарію Михайла Марцинюка.

# Load webdriver
from selenium import webdriver

# Load proxy option
from selenium.webdriver.common.proxy import Proxy, ProxyType

# Configure Proxy Option
prox = Proxy()
prox.proxy_type = ProxyType.MANUAL

# Proxy IP & Port
prox.http_proxy = “0.0.0.0:00000”
prox.socks_proxy = “0.0.0.0:00000”
prox.ssl_proxy = “0.0.0.0:00000# Configure capabilities 
capabilities = webdriver.DesiredCapabilities.CHROME
prox.add_to_capabilities(capabilities)

# Configure ChromeOptions
driver = webdriver.Chrome(executable_path='/usr/local/share chromedriver',desired_capabilities=capabilities)

# Verify proxy ip
driver.get("http://www.whatsmyip.org/")

4

Спробуйте, налаштувавши FirefoxProfile

from selenium import webdriver
import time


"Define Both ProxyHost and ProxyPort as String"
ProxyHost = "54.84.95.51" 
ProxyPort = "8083"



def ChangeProxy(ProxyHost ,ProxyPort):
    "Define Firefox Profile with you ProxyHost and ProxyPort"
    profile = webdriver.FirefoxProfile()
    profile.set_preference("network.proxy.type", 1)
    profile.set_preference("network.proxy.http", ProxyHost )
    profile.set_preference("network.proxy.http_port", int(ProxyPort))
    profile.update_preferences()
    return webdriver.Firefox(firefox_profile=profile)


def FixProxy():
    ""Reset Firefox Profile""
    profile = webdriver.FirefoxProfile()
    profile.set_preference("network.proxy.type", 0)
    return webdriver.Firefox(firefox_profile=profile)


driver = ChangeProxy(ProxyHost ,ProxyPort)
driver.get("http://whatismyipaddress.com")

time.sleep(5)

driver = FixProxy()
driver.get("http://whatismyipaddress.com")

Ця програма протестована як на Windows 8, так і на Mac OSX. Якщо ви використовуєте Mac OSX і якщо у вас не оновлено селен, ви можете зіткнутися selenium.common.exceptions.WebDriverException. Якщо так, спробуйте ще раз після оновлення селену

pip install -U selenium

4

Вищезазначений результат може бути правильним, але не працює з останньою версією веб-драйверів. Ось моє рішення для вищезазначеного питання. Просто і солодко


        http_proxy  = "ip_addr:port"
        https_proxy = "ip_addr:port"

        webdriver.DesiredCapabilities.FIREFOX['proxy']={
            "httpProxy":http_proxy,
            "sslProxy":https_proxy,
            "proxyType":"MANUAL"
        }

        driver = webdriver.Firefox()

АБО

    http_proxy  = "http://ip:port"
    https_proxy = "https://ip:port"

    proxyDict = {
                    "http"  : http_proxy,
                    "https" : https_proxy,
                }

    driver = webdriver.Firefox(proxy=proxyDict)

2

Відповіді вище та на це питання або не працювали для мене з Selenium 3.14 та Firefox 68.9 у Linux, або є надмірно складними. Мені потрібно було використовувати конфігурацію WPAD, іноді за проксі (на VPN), а іноді ні. Трохи вивчивши код, я придумав:

from selenium import webdriver
from selenium.webdriver.common.proxy import Proxy
from selenium.webdriver.firefox.firefox_profile import FirefoxProfile

proxy = Proxy({'proxyAutoconfigUrl': 'http://wpad/wpad.dat'})
profile = FirefoxProfile()
profile.set_proxy(proxy)
driver = webdriver.Firefox(firefox_profile=profile)

Ініціалізація проксі встановлює proxyType на ProxyType.PAC (автоконфігурація з URL-адреси) як побічний ефект.

Він також працював з автовизначенням Firefox, використовуючи:

from selenium.webdriver.common.proxy import ProxyType

proxy = Proxy({'proxyType': ProxyType.AUTODETECT})

Але я не думаю, що це буде працювати як із внутрішніми URL-адресами (не через проксі), так і з зовнішніми (через проксі), як це робить WPAD. Подібні налаштування проксі повинні працювати і для ручного налаштування. Можливі налаштування проксі можна побачити в коді тут .

Зверніть увагу, що безпосередньо передаючи об'єкт Proxy як proxy=proxy драйверу НЕ працює - воно приймається, але ігнорується (повинно бути попередження про припинення дії, але в моєму випадку, я думаю, Behave ковтає його).



0

Це спрацювало для мене, і дозволило використовувати браузер без голови, вам просто потрібно викликати метод, що передає ваш проксі.

def setProxy(proxy):
        options = Options()
        options.headless = True
        #options.add_argument("--window-size=1920,1200")
        options.add_argument("--disable-dev-shm-usage")
        options.add_argument("--no-sandbox")
        prox = Proxy()
        prox.proxy_type = ProxyType.MANUAL
        prox.http_proxy = proxy
        prox.ssl_proxy = proxy
        capabilities = webdriver.DesiredCapabilities.CHROME
        prox.add_to_capabilities(capabilities)
        return webdriver.Chrome(desired_capabilities=capabilities, options=options, executable_path=DRIVER_PATH)

-1

спробуйте запустити службу tor, додайте наступну функцію до свого коду.

def connect_tor(port):

socks.set_default_proxy(socks.PROXY_TYPE_SOCKS5, '127.0.0.1', port, True)
socket.socket = socks.socksocket

def main():

connect_tor()
driver = webdriver.Firefox()

У цій публікації відсутня інформація, функції connect_tor () та main () не мають правильних відступів, а у виклику connect_tor () відсутній обов’язковий аргумент "порт" у прикладі. Який порт tor слід використовувати? Де я можу отримати інформацію про порт Tor?
Карл
Використовуючи наш веб-сайт, ви визнаєте, що прочитали та зрозуміли наші Політику щодо файлів cookie та Політику конфіденційності.
Licensed under cc by-sa 3.0 with attribution required.