”工欲善其事,必先利其器。“—孔子《论语.录灵公》
首页 > 编程 > 课程 使用 API 和 Web 抓取实现 HR 自动化

课程 使用 API 和 Web 抓取实现 HR 自动化

发布于2024-11-05
浏览:955

Lesson  Working with APIs and Web Scraping for HR Automation

欢迎回到我们的Python从0到英雄系列!到目前为止,我们已经学习了如何操作数据并使用强大的外部库来执行与工资和人力资源系统相关的任务。但是,如果您需要获取实时数据或与外部服务交互怎么办?这就是API网络抓取发挥作用的地方。

在本课中,我们将介绍:

  1. 什么是API以及它们为何有用。
  2. 如何使用 Python 的 requests 库与 REST API 交互。
  3. 如何应用网络抓取技术从网站提取数据。
  4. 实际示例,例如获取工资的实时税率或从网站抓取员工福利数据。

在本课程结束时,您将能够自动执行外部数据检索,使您的 HR 系统更加动态和数据驱动。


1.什么是API?

API(应用程序编程接口)是一组允许不同软件应用程序相互通信的规则。简而言之,它允许您直接从代码与另一个服务或数据库交互。

例如:

    您可以使用 API 获取
  • 实时税率以进行工资计算。
  • 您可以与
  • HR 软件 API 集成,将员工数据直接提取到您的系统中。
  • 或者您可以使用天气 API 来了解何时根据极端天气条件为员工提供特殊福利。
大多数 API 使用名为

REST(表述性状态传输)的标准,该标准允许您发送 HTTP 请求(如 GET 或 POST)来访问或更新数据。


2. 使用Requests库与API交互

Python 的 requests 库让 API 的使用变得简单。您可以通过运行来安装它:


pip 安装请求
pip install requests
发出基本 API 请求

让我们从一个简单的示例开始,了解如何使用

GET 请求从 API 获取数据

导入请求 # 获取公共数据的示例 API url =“https://jsonplaceholder.typicode.com/users” 响应 = requests.get(url) # 检查请求是否成功(状态码200) 如果响应.status_code == 200: data = response.json() # 将响应解析为 JSON 打印(数据) 别的: print(f"检索数据失败。状态码:{response.status_code}")
pip install requests
在此示例中:

    我们使用requests.get()函数从API获取数据。
  • 如果请求成功,数据会解析为JSON,我们就可以处理了。
HR应用示例:获取实时税务数据

假设您想要获取

实时税率以用于薪资目的。许多国家/地区提供税率的公共 API。

在此示例中,我们将模拟从税务 API 获取数据。使用实际 API 时的逻辑是类似的。


导入请求 # 模拟税率 API api_url =“https://api.example.com/tax-rates” 响应 = requests.get(api_url) 如果响应.status_code == 200: 税数据 = 响应.json() 联邦税 = 税数据['联邦税'] 州税 = 税数据['州税'] print(f"联邦税率:{federal_tax}%") print(f"州税率:{state_tax}%") # 使用税率计算员工工资的总税额 工资=5000 总税 = 工资 * (联邦税 州税) / 100 print(f"工资为 ${salary} 的总税金: ${total_tax:.2f}") 别的: print(f"未能检索税率。状态代码:{response.status_code}")
pip install requests
此脚本可以修改为与实际税率 API 配合使用,帮助您使工资系统保持最新的税率。


3. 网页抓取来收集数据

虽然 API 是获取数据的首选方法,但并非所有网站都提供它们。在这些情况下,

网络抓取可用于从网页中提取数据。

Python 的

BeautifulSoup 库以及请求,使网络抓取变得容易。您可以通过运行来安装它:

pip 安装 beautifulsoup4
pip install requests
示例:从网站抓取员工福利数据

想象一下,您想要从公司的人力资源网站上抓取有关

员工福利的数据。这是一个基本示例:

导入请求 从 bs4 导入 BeautifulSoup # 您要抓取的网页的 URL url =“https://example.com/employee-benefits” 响应 = requests.get(url) # 使用BeautifulSoup解析页面内容 soup = BeautifulSoup(response.content, 'html.parser') # 查找并提取您需要的数据(例如福利列表) 福利 = soup.find_all("div", class_="benefit-item") # 循环并打印出好处 为了利益中的利益: 标题 = Benefit.find("h3").get_text() 描述 = Benefit.find("p").get_text() print(f"好处:{title}") print(f"描述:{描述}\n")
pip install requests
在此示例中:

    我们使用requests.get()请求网页内容。
  • BeautifulSoup 对象解析 HTML 内容。
  • 然后,我们使用 find_all() 提取我们感兴趣的特定元素(例如,福利标题和描述)。
此技术对于从网络收集与人力资源相关的数据(例如福利、职位发布或薪资基准)非常有用。


4. 在 HR 应用程序中结合 API 和 Web 抓取

让我们将所有内容放在一起,创建一个迷你应用程序,结合 API 使用和网络抓取来实现真实的 HR 场景:计算

员工的总成本

出色地:

    使用API​​获取实时税率。
  • 抓取网页以获取额外的员工福利费用。
示例:员工总成本计算器

导入请求 从 bs4 导入 BeautifulSoup # 第1步:从API获取税率 def get_tax_rates(): api_url =“https://api.example.com/tax-rates” 响应 = requests.get(api_url) 如果响应.status_code == 200: 税数据 = 响应.json() 联邦税 = 税数据['联邦税'] 州税 = 税数据['州税'] 返回联邦税、州税 别的: print("获取税率时出错。") 返回无,无 # 第 2 步:从网站上删除员工福利成本 def get_benefit_costs(): url =“https://example.com/employee-benefits” 响应 = requests.get(url) 如果响应.status_code == 200: soup = BeautifulSoup(response.content, 'html.parser') # 假设页面列出了每月的福利费用 Benefit_costs = soup.find("div", class_="benefit-total").get_text() 返回浮动(benefit_costs.strip(“$”)) 别的: print("获取福利成本时出错。") 返回 0.0 # 第 3 步:计算员工总成本 defcalculate_total_employee_cost(工资): 联邦税、州税 = get_tax_rates() 福利成本 = get_benefit_costs() 如果 Federal_tax 不是 None 并且 state_tax 不是 None: # 总扣税额 总税 = 工资 * (联邦税 州税) / 100 # 总成本=工资福利税 总成本=工资福利成本总税 返回总成本 别的: 返回无 # 用法示例 员工工资 = 5000 总成本 = 计算总员工成本(员工工资) 如果总成本: print(f"员工的总成本:${total_cost:.2f}") 别的: print("无法计算员工成本。")
pip install requests
运作原理:

    get_tax_rates() 函数从 API 检索税率。
  1. get_benefit_costs() 函数抓取网页以获取员工福利成本。
  2. calculate_total_employee_cost() 函数通过结合工资、税收和福利来计算总成本。
这是一个简化的示例,但演示了如何组合来自不同来源(API 和网络抓取)的数据来创建更加动态和有用的 HR 应用程序。


网页抓取的最佳实践

虽然网页抓取功能强大,但仍需要遵循一些重要的最佳实践:

  1. 尊重网站的robots.txt:有些网站不允许抓取,您应该在抓取之前检查其robots.txt文件。
  2. 在请求之间使用适当的间隔:通过使用 time.sleep() 函数在请求之间添加延迟来避免服务器过载。
  3. 避免抓取敏感或受版权保护的数据:抓取数据时始终确保您没有违反任何法律或道德规则。

结论

在本课中,我们探讨了如何使用

API与外部服务交互,以及如何通过网络抓取从网站提取数据。这些技术为将外部数据集成到 Python 应用程序中提供了无限的可能性,尤其是在 HR 环境中。

版本声明 本文转载于:https://dev.to/dazevedo/lesson-7-working-with-apis-and-web-scraping-for-hr-automation-lmj?1如有侵犯,请联系[email protected]删除
最新教程 更多>
  • Async Void vs. Async Task在ASP.NET中:为什么Async Void方法有时会抛出异常?
    Async Void vs. Async Task在ASP.NET中:为什么Async Void方法有时会抛出异常?
    在ASP.NET async void void async void void void void void的设计无需返回asynchroncon而无需返回任务对象。他们在执行过程中增加未偿还操作的计数,并在完成后减少。在某些情况下,这种行为可能是有益的,例如未期望或明确预期操作结果的火灾和...
    编程 发布于2025-05-21
  • Java开发者如何保护数据库凭证免受反编译?
    Java开发者如何保护数据库凭证免受反编译?
    在java 在单独的配置文件保护数据库凭证的最有效方法中存储凭据是将它们存储在单独的配置文件中。该文件可以在运行时加载,从而使登录数据从编译的二进制文件中远离。使用prevereness class import java.util.prefs.preferences; 公共类示例{ 首选项...
    编程 发布于2025-05-21
  • HTML格式标签
    HTML格式标签
    HTML 格式化元素 **HTML Formatting is a process of formatting text for better look and feel. HTML provides us ability to format text without us...
    编程 发布于2025-05-21
  • 如何在php中使用卷发发送原始帖子请求?
    如何在php中使用卷发发送原始帖子请求?
    如何使用php 创建请求来发送原始帖子请求,开始使用curl_init()开始初始化curl session。然后,配置以下选项: curlopt_url:请求 [要发送的原始数据指定内容类型,为原始的帖子请求指定身体的内容类型很重要。在这种情况下,它是文本/平原。要执行此操作,请使用包含以下标头...
    编程 发布于2025-05-21
  • 如何在其容器中为DIV创建平滑的左右CSS动画?
    如何在其容器中为DIV创建平滑的左右CSS动画?
    通用CSS动画,用于左右运动 ,我们将探索创建一个通用的CSS动画,以向左和右移动DIV,从而到达其容器的边缘。该动画可以应用于具有绝对定位的任何div,无论其未知长度如何。问题:使用左直接导致瞬时消失 更加流畅的解决方案:混合转换和左 [并实现平稳的,线性的运动,我们介绍了线性的转换。这...
    编程 发布于2025-05-21
  • 大批
    大批
    [2 数组是对象,因此它们在JS中也具有方法。 切片(开始):在新数组中提取部分数组,而无需突变原始数组。 令ARR = ['a','b','c','d','e']; // USECASE:提取直到索引作...
    编程 发布于2025-05-21
  • 如何在Java字符串中有效替换多个子字符串?
    如何在Java字符串中有效替换多个子字符串?
    在java 中有效地替换多个substring,需要在需要替换一个字符串中的多个substring的情况下,很容易求助于重复应用字符串的刺激力量。但是,对于大字符串或使用许多字符串时,这可能是降低的。 利用正则表达式Example UsageConsider a scenario where y...
    编程 发布于2025-05-21
  • Android如何向PHP服务器发送POST数据?
    Android如何向PHP服务器发送POST数据?
    在android apache httpclient(已弃用) httpclient httpclient = new defaulthttpclient(); httppost httppost = new httppost(“ http://www.yoursite.com/script.p...
    编程 发布于2025-05-21
  • 如何从PHP中的Unicode字符串中有效地产生对URL友好的sl。
    如何从PHP中的Unicode字符串中有效地产生对URL友好的sl。
    为有效的slug生成首先,该函数用指定的分隔符替换所有非字母或数字字符。此步骤可确保slug遵守URL惯例。随后,它采用ICONV函数将文本简化为us-ascii兼容格式,从而允许更广泛的字符集合兼容性。接下来,该函数使用正则表达式删除了不需要的字符,例如特殊字符和空格。此步骤可确保slug仅包含...
    编程 发布于2025-05-21
  • 如何避免Go语言切片时的内存泄漏?
    如何避免Go语言切片时的内存泄漏?
    ,a [j:] ...虽然通常有效,但如果使用指针,可能会导致内存泄漏。这是因为原始的备份阵列保持完整,这意味着新切片外部指针引用的任何对象仍然可能占据内存。 copy(a [i:] 对于k,n:= len(a)-j i,len(a); k
    编程 发布于2025-05-21
  • 如何从Python中的字符串中删除表情符号:固定常见错误的初学者指南?
    如何从Python中的字符串中删除表情符号:固定常见错误的初学者指南?
    从python import codecs import codecs import codecs 导入 text = codecs.decode('这狗\ u0001f602'.encode('utf-8'),'utf-8') 印刷(文字)#带有...
    编程 发布于2025-05-21
  • 如何使用Regex在PHP中有效地提取括号内的文本
    如何使用Regex在PHP中有效地提取括号内的文本
    php:在括号内提取文本在处理括号内的文本时,找到最有效的解决方案是必不可少的。一种方法是利用PHP的字符串操作函数,如下所示: 作为替代 $ text ='忽略除此之外的一切(text)'; preg_match('#((。 &&& [Regex使用模式来搜索特...
    编程 发布于2025-05-21
  • 为什么PYTZ最初显示出意外的时区偏移?
    为什么PYTZ最初显示出意外的时区偏移?
    与pytz 最初从pytz获得特定的偏移。例如,亚洲/hong_kong最初显示一个七个小时37分钟的偏移: 差异源利用本地化将时区分配给日期,使用了适当的时区名称和偏移量。但是,直接使用DateTime构造器分配时区不允许进行正确的调整。 example pytz.timezone(...
    编程 发布于2025-05-21
  • 在GO中构造SQL查询时,如何安全地加入文本和值?
    在GO中构造SQL查询时,如何安全地加入文本和值?
    在go中构造文本sql查询时,在go sql queries 中,在使用conting and contement和contement consem per时,尤其是在使用integer per当per当per时,per per per当per. [&​​&&&&&&&&&&&&&&&默元组方法在...
    编程 发布于2025-05-21
  • 版本5.6.5之前,使用current_timestamp与时间戳列的current_timestamp与时间戳列有什么限制?
    版本5.6.5之前,使用current_timestamp与时间戳列的current_timestamp与时间戳列有什么限制?
    在时间戳列上使用current_timestamp或MySQL版本中的current_timestamp或在5.6.5 此限制源于遗留实现的关注,这些限制需要对当前的_timestamp功能进行特定的实现。 创建表`foo`( `Productid` int(10)unsigned not n...
    编程 发布于2025-05-21

免责声明: 提供的所有资源部分来自互联网,如果有侵犯您的版权或其他权益,请说明详细缘由并提供版权或权益证明然后发到邮箱:[email protected] 我们会第一时间内为您处理。

Copyright© 2022 湘ICP备2022001581号-3