Python Selenium, який отримує доступ до джерела HTML

Як я можу отримати джерело HTML у змінній за допомогою модуля Selenium з Python?

Я хотів зробити щось подібне:

from selenium import webdriver

browser = webdriver.Firefox()
browser.get("http://example.com")
if "whatever" in html_source:
    # Do something
else:
    # Do something else

Як я можу це зробити? Я не знаю, як отримати доступ до джерела HTML.

Вам потрібно отримати доступ до page_sourceпомешкання:

from selenium import webdriver

browser = webdriver.Firefox()
browser.get("http://example.com")

html_source = browser.page_source
if "whatever" in html_source:
    # do something
else:
    # do something else

За допомогою Selenium2Library ви можете використовувати get_source()

import Selenium2Library
s = Selenium2Library.Selenium2Library()
s.open_browser("localhost:7080", "firefox")
source = s.get_source()

driver.page_source допоможе вам отримати вихідний код сторінки. Ви можете перевірити, чи є текст у джерелі сторінки чи ні.

from selenium import webdriver
driver = webdriver.Firefox()
driver.get("some url")
if "your text here" in driver.page_source:
    print('Found it!')
else:
    print('Did not find it.')

Якщо ви хочете зберегти джерело сторінки у змінній, додайте нижче рядок після driver.get :

var_pgsource=driver.page_source

і змініть умову if на:

if "your text here" in var_pgsource:

Використовуючи джерело сторінки, ви отримаєте весь HTML-код.
Тож спочатку вирішіть блок коду або тегу, в якому вам потрібно отримати дані або клацнути елемент.

options = driver.find_elements_by_name_("XXX")
for option in options:
    if option.text == "XXXXXX":
        print(option.text)
        option.click()

Ви можете знайти елементи за іменем, XPath, ідентифікатором, посиланням та шляхом CSS.

Щоб відповісти на ваше запитання щодо отримання URL-адреси для urllib, просто запустіть цей код JavaScript:

url = browser.execute_script("return window.location;")

Ви можете просто використовувати WebDriverоб'єкт і отримати доступ до вихідного коду сторінки через його @propertyполе page_source...

Спробуйте цей фрагмент коду :-)

from selenium import webdriver
driver = webdriver.Firefox('path/to/executable')
driver.get('https://some-domain.com')
source = driver.page_source
if 'stuff' in source:
    print('found...')
else:
    print('not in source...')

from bs4 import BeautifulSoup
from selenium import webdriver

driver = webdriver.Chrome()
html_source_code = driver.execute_script("return document.body.innerHTML;")
html_soup: BeautifulSoup = BeautifulSoup(html_source_code, 'html.parser')

Тепер ви можете застосувати функцію BeautifulSoup для вилучення даних ...

Я рекомендую отримати джерело за допомогою urllib і, якщо ви збираєтеся робити синтаксичний аналіз, використовуйте щось на зразок Beautiful Soup .

import urllib

url = urllib.urlopen("http://example.com") # Open the URL.
content = url.readlines() # Read the source and save it to a variable.