您的位置:首页 > 财经 > 金融 > 十九届六中全会_网页搜索屏蔽广告_百度收录技术_google搜索引擎入口

十九届六中全会_网页搜索屏蔽广告_百度收录技术_google搜索引擎入口

2024/12/25 20:58:58 来源:https://blog.csdn.net/weixin_43845191/article/details/142950294  浏览:    关键词:十九届六中全会_网页搜索屏蔽广告_百度收录技术_google搜索引擎入口
十九届六中全会_网页搜索屏蔽广告_百度收录技术_google搜索引擎入口

此分享只用于学习用途,不作商业用途,若有冒犯,请联系处理

反爬前置信息

站点:aHR0cHM6Ly9jenFqZC5qc3p3ZncuZ292LmNuL2tkY3B1YXBvcnRhbC8jLw==
接口:/kong/InnerGateway/kdcpua/lib/project/publicity

反爬机制定位

在抓取某个站点时,我们需要找到目标接口,然后确定目标接口所使用的反爬机制,常见反爬机制有cookie请求头签名校验等,只有找到它所使用的反爬机制我们才能对点下药。

找到对应的接口,右键复制其cUrl,然后使用爬虫工具库将其转成python requests代码,这样便于我们快速进入调试定位反爬机制
在这里插入图片描述
在这里插入图片描述

可以看到它只存在两个变量,就是cookie请求头,接下来使用控制变量法,结果如下:

  1. 请求传入headers,传入cookie,请求成功
  2. 请求不传入headers,传入cookie,请求失败
  3. 请求传入headers,不传入cookie,请求成功
  4. 请求不传入headers,不传入cookie,请求成功

根据结果确定它的反爬机制只有请求头

大家看下,红色横线对应的那些请求头不会是检测点,而像AcceptAccept-LanguageRefererUser-Agent都是可以写死的,大家可能会说User-Agent也是反爬机制,User-Agent确实可以反爬,不过它的反爬机制对应的是采集频率,我们现在是请求请求前的反爬
在这里插入图片描述

剔除这些后,剩下的AuthorizationTokenx-date就很明显是动态生成且容易作为检测点了,这里Token不需要关注,我们测试一下Authorizationx-date,结果如下:

  1. 保留Authorization,保留Token,请求成功
  2. 保留Authorization,不保留Token,请求失败
  3. 不保留Authorization,保留Token,请求失败
  4. 不保留Authorization,不保留Token,请求失败

结果两次测试结果可以确定AuthorizationToken是检测点且两者之间存在关系。通过这种方法我们最终确定了接口的反爬机制,接下来就是如何破解它了。

逆向研究

这个站点没有特别的混淆,全局搜索x-date直接锁定关键代码位置,它是一个原生的hmac-sha256加密,加密文本就是x-datex-date是UTC时间字符串
在这里插入图片描述

算法破解

import base64
import hashlib
import hmac
from datetime import datetimeimport requestsdef get_hmac_authorization():hit_time = datetime.utcnow().strftime('%a, %d %b %Y %H:%M:%S GMT')key = '1S7JzAkstxUV1g51IB22otDrwRkFxRJ3'.encode()message = 'x-date: {}'.format(hit_time).encode()hmac_sha256 = hmac.new(key, message, digestmod=hashlib.sha256)hmac_digest = hmac_sha256.digest()encrypt_result = base64.b64encode(hmac_digest).decode()return {'Authorization': 'hmac username="kdcpua", algorithm="hmac-sha256", headers="x-date", signature="{}"'.format(encrypt_result),'x-date': hit_time,}headers = {"Accept": "*/*","Accept-Language": "zh-CN,zh;q=0.9","Origin": "Origin","Referer": "Referer","Token": "undefined undefined","User-Agent": "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/129.0.0.0 Safari/537.36",
}
headers.update(get_hmac_authorization())
url = "url "
response = requests.post(url, headers=headers)print(response.text)

版权声明:

本网仅为发布的内容提供存储空间,不对发表、转载的内容提供任何形式的保证。凡本网注明“来源:XXX网络”的作品,均转载自其它媒体,著作权归作者所有,商业转载请联系作者获得授权,非商业转载请注明出处。

我们尊重并感谢每一位作者,均已注明文章来源和作者。如因作品内容、版权或其它问题,请及时与我们联系,联系邮箱:809451989@qq.com,投稿邮箱:809451989@qq.com