SPSS+AMOS数据分析案例教程-关于中介模
SPSS视频教程内容目录和跳转链接
Meta分析辅导+代找数据
SPSS+AMOS数据分析案例教程-关于中介模
SPSS视频教程内容目录和跳转链接
R语言快速入门视频教程
Python智联招聘数据分析
LCA潜在类别分析和Mplus应用
Amos结构方程模型数据分析入门教程
倒U关系回归分析中介效应和调节效应分析SPSS视频教程
统计咨询(图文问答)

selenium进阶教程

在B站@mlln-cn, 我就能回答你的问题奥!

文章目录
  1. 1. 回顾初级教程
  2. 2. 等待加载
    1. 2.1. time.sleep
    2. 2.2. 隐性等待
    3. 2.3. 显性等待
      1. 2.3.1. 等待条件
  3. 3. 避免等待时间过长
  4. 4. iframe
  5. 5. 移动鼠标
  6. 6. 重复使用cookie
  7. 7. 未完待续

本篇文章主要介绍一下python-selenium在进行自动化功能测试的时候经常用到的一些高级API,这些API的灵活运用可以提高测试脚本的质量和性能。

回顾初级教程

如果没有接触过python-selenium,恐怕你需要先浏览一下这篇文章:selenium数据采集入门(for psychologist)

等待加载

很多时候页面的加载时间较长,有些元素还没有加载就尝试去获取该元素会导致程序错误,为了避免网络延迟造成的影响,我们通常需要使用一些等待的API。

time.sleep

最简单的方法就是使用python自带的time库中的sleep方法。该方法强制程序暂停,等待页面加载。比如:

1
2
3
4
5
6
import time
import selenium
from selenium import webdriver
driver=webdriver.Chrome()
driver.get("http://mlln.cn/") #打开页面
time.sleep(1)# 暂停1秒,等待所有页面元素加载

隐性等待

不要尝试顾名思义,因为我认为这不是一个好名字,但是别人一直这样用,所以我们也就这么叫。隐性等待就是让程序等待页面加载一定的时间t,如果在时间t内,页面没有加载完毕,那么ok,我不等你了,程序会接着运行,如果在时间t内页面加载完成,则程序不会等到t后再运行,而是在页面加载完的那一刻就运行,例如:

1
2
3
4
5
import selenium
from selenium import webdriver
driver=webdriver.Chrome()
driver.implicitly_wait(30) #最长等待30秒,过了30秒,即便页面没有加载完,程序依然运行
driver.get("http://mlln.cn/") #打开页面

显性等待

显性等待用WebDriverWait, 比隐性等待更常用的是显性等待,显性等待也有一个最长等待时间t,但是如果在t时间内页面没有加载完,它会抛出异常,从而程序停止。而且,显性等待允许你明确到底在等什么,也就是等待条件。selenium提供了untiluntil_not方法来支持显性等待。

我们先来看一个例子:

1
2
3
4
5
6
7
8
9
10
11
12
13
from selenium import webdriver  
from selenium.webdriver.support.wait import WebDriverWait
from selenium.webdriver.support import expected_conditions as EC
from selenium.webdriver.common.by import By
driver = webdriver.Chrome()
driver.implicitly_wait(10) # 隐性等待和显性等待可以同时用, 等待的最长时间取两者之中的大者
driver.get('http://mlln.cn/')
locator = (By.LINK_TEXT, 'DataScience')
## 等待20秒,每过0.5秒就检查一下等待条件是否满足(即程序是否可以接着运行)
## 等待条件是locator的出现,而locator是定义好的一个元组
WebDriverWait(driver, 20, 0.5).until(EC.presence_of_element_located(locator))
driver.find_element_by_link_text('DataScience')
driver.close()
等待条件

其实应该叫做期望条件,但是我们现在主要在讲等待。等待的条件有很多,都存放在selenium.webdriver.support.expected_conditions中,我们大概浏览一下有哪些可用的:

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
title_is  
title_contains
这两个人条件验证元素是否出现,传入的参数都是元组类型的locator,如(By.ID, 'kw')
顾名思义,一个只要一个符合条件的元素加载出来就通过;另一个必须所有符合条件的元素都加载出来才行


presence_of_element_located
presence_of_all_elements_located
这三个条件验证元素是否可见,前两个传入参数是元组类型的locator,第三个传入WebElement
第一个和第三个其实质是一样的


visibility_of_element_located
invisibility_of_element_located
visibility_of
这两个人条件判断某段文本是否出现在某元素中,一个判断元素的text,一个判断元素的value


text_to_be_present_in_element
text_to_be_present_in_element_value
这个条件判断frame是否可切入,可传入locator元组或者直接传入定位方式:id、name、index或WebElement


frame_to_be_available_and_switch_to_it
这个条件判断是否有alert出现


alert_is_present
这个条件判断元素是否可点击,传入locator

element_to_be_clickable
这四个条件判断元素是否被选中,第一个条件传入WebElement对象,第二个传入locator元组
第三个传入WebElement对象以及状态,相等返回True,否则返回False
第四个传入locator以及状态,相等返回True,否则返回False

element_to_be_selected
element_located_to_be_selected
element_selection_state_to_be
element_located_selection_state_to_be
最后一个条件判断一个元素是否仍在DOM中,传入WebElement对象,可以判断页面是否刷新了
staleness_of

避免等待时间过长

如果你使用了隐形等待, 那么有时候你会发现程序运行很慢, 因为程序在等待某个元素出现. 但是问题是, 某个元素可能永远都不会出现. 这就造成了时间浪费. 为了避免等待时间过程, 一方面你要设置的等待时间不要太长; 另一方面你要避免使用只返回一个元素的方法, 比如:

1
2
3
4
find_element_by_id
find_element_by_class_name
find_element_by_css_selector
find_element_by_xpath

提倡使用的方法:

1
2
3
4
find_elements_by_class_name
find_elements_by_css_selector
find_elements_by_xpath
find_elements_by_tag_name

但是你会想, 这样返回了多个元素如何处理? 通过遍历来找到你需要的元素.

1
2
3
4
for ele in elements:
#在这里检查是不是你要的元素
if 是你想要的:
break # 跳出循环

iframe

selenium不能直接操作iframe内部的元素,因为iframe内部元素相当于另一个页面,这个页面有自己的head和body。 为了获取iframe内部元素,需要使用switch_to_frame方法,参数是iframe元素的id属性或者通过find_element_by*方法获取得到的iframe元素对象。想要跳出iframe可以用switch_to_default_content方法。

例如,利用你以前的知识,不使用switch_to_frame, 点击下面页面的百度一下按钮。你是无法实现的。

下面使用switch_to_frame

1
2
3
4
5
6
7
from selenium import webdriver
driver=webdriver.Chrome()
driver.get('http://mlln.cn/2017/09/27/selenium%E8%BF%9B%E9%98%B6%E6%95%99%E7%A8%8B/')
frame=driver.find_element_by_tag_name('iframe')
driver.switch_to_frame(frame)
driver.find_element_by_id('su').click()
driver.switch_to_default_content()

移动鼠标

为了反爬虫, 一些网站会记录你的鼠标动作, 因为爬虫通常不会产生鼠标动作. selenium也能控制鼠标的运动, 比如:

1
2
pwd_input = driver.find_element_by_css_selector('input.W_input[name=password]')
webdriver.ActionChains(driver).move_to_element(pwd_input).perform() #移动鼠标到我的密码输入框

重复使用cookie

在抓取某些需要登录才能看到的页面时, 如果没有保存cookie, 你将不得不每次打开浏览器就登录一次. 解决这个问题的方法就是配置profile文件. 例如:

1
2
3
4
5
6
7
from selenium import webdriver
options = webdriver.ChromeOptions()
prefs={'profile.managed_default_content_settings.images':2}
profile='C:/Users/username/AppData/Local/Google/Chrome/User Data/test_profile'
options.add_argument("--user-data-dir="+profile)
# 启动chrome浏览器, 传入options参数
driver=webdriver.Chrome(chrome_options = options)

未完待续

后面遇到问题再补充到这里。

统计咨询

统计咨询请加入我的星球,有问必回

加入星球向我提问(必回),下载资料,数据,软件等

赞助

持续创造有价值的内容, 我需要你的帮助