使用User-Agent防止HttpClient发送http请求时403 Forbidden和安全拦截

摘要:
从截图可以看出来,对方拦截了我们的user-agent。一些网站的网页,为了防止爬虫或恶意访问,会首先判断请求头的User-Agent,如果不是浏览器请求,则会直接拒绝请求。不同版本的谷歌浏览器的User-Agent:Mozilla/5.0AppleWebKit/537.36Chrome/54.0.2840.87Safari/537.36Mozilla/4.0解决问题通过分析httputil代码,发现我方并未设置请求头的user-agent属性。原来,经模拟点对点请求的测试证明,如果不设置的话,它的值默认是:Apache-HttpClient。那么,自然是加上user-agent来模拟正常的浏览器请求客户服务器就可以了。

问题的抛出

今天有合作商户反映,批付交易完成后,在我方服务器以“服务器点对点通信”的方式通知请求对方服务器时,对方拦截了请求。并贴了一张截图。

使用User-Agent防止HttpClient发送http请求时403 Forbidden和安全拦截第1张
从截图可以看出来,对方拦截了我们的user-agent(Apache-HttpClient)。

什么是User-Agent?
通常我们用浏览器访问一个网页,当我们向服务器发送请求时,浏览器会将一些头信息附加上,然后发给服务器,其中就包括User-Agent。一些网站的网页,为了防止爬虫或恶意访问,会首先判断请求头的User-Agent,如果不是浏览器请求,则会直接拒绝请求。(https://blog.csdn.net/frankcheng5143/article/details/54096098里也提到,直接用HttpClient发起请求csdn时,会收到403 Forbidden)
不同版本的谷歌浏览器的User-Agent:
Mozilla/5.0 (Windows NT 6.2; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/54.0.2840.87 Safari/537.36
Mozilla/4.0 (compatible; MSIE 5.0; Windows NT; DigExt)

使用User-Agent防止HttpClient发送http请求时403 Forbidden和安全拦截第2张

解决问题

通过分析httputil代码,发现我方并未设置请求头的user-agent属性。 原来,经模拟点对点请求的测试证明,如果不设置的话,它的值默认是:Apache-HttpClient。

技术支持同事为了照顾合作商户的感受,建议我方改一下。那么,自然是加上user-agent来模拟正常的浏览器请求客户服务器就可以了。
当然,单从技术角度来看,另一个同事的给的建议也许更好:因为这是个服务器点对点通信,所以若要从安全方面控制,应该通过诸如ip白名单的方式,而不是通过User-Agent判断是不是浏览器请求。

httputil代码(user-agent不区分大小写):

    String userAgent = "Mozilla/5.0 (Windows NT 6.2; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/54.0.2840.87 Safari/537.36";
    HttpGet httpGet = newHttpGet(url);
    httpGet.setHeader("User-Agent",userAgent);
    response = httpclient.execute(httpGet);
    CloseableHttpClient httpClient =getHttpClient();
    。。。。。
    HttpPost post = newHttpPost(url);
    post.setHeader("user-agent","Mozilla/4.0 (compatible; MSIE 5.0; Windows NT; DigExt)");
    CloseableHttpResponse httpResponse = httpClient.execute(post);
    URL urls = newURL(url);
    HttpURLConnection uc =(HttpURLConnection) urls.openConnection();
    uc.setRequestProperty("User-Agent", "Mozilla/4.0 (compatible; MSIE 5.0; Windows NT; DigExt)");
    。。。
    uc.setRequestMethod("POST");
    。。。

免责声明:文章转载自《使用User-Agent防止HttpClient发送http请求时403 Forbidden和安全拦截》仅用于学习参考。如对内容有疑问,请及时联系本站处理。

上篇Rsync同步时删除多余文件 [附:删除大量文件方法的效率对比]DOM节点操作下篇

宿迁高防,2C2G15M,22元/月;香港BGP,2C5G5M,25元/月 雨云优惠码:MjYwNzM=

相关文章

HttpClientFactory 是 HttpClient 的正确使用方式

1.简介 它的组件包是Microsoft.Extensions.Http 复原HttpClient带来的问题 HttpClient相关问题 虽然HttpClient类实现了IDisposable,但不是首选在using语句中声明和实例化它,因为释放HttpClient对象时,基础套接字不会立即释放,这可能会导致“套接字耗尽”问题 。因此,HttpCli...

TCP连接与HTTP请求

  一道经典面试题: 从 URL 在浏览器被被输入到页面展现的过程中发生了什么? 相信大多数准备过的同学都能回答出来,但是如果继续问:收到的 HTML 如果包含几十个图片标签,这些图片是以什么方式、什么顺序、建立了多少连接、使用什么协议被下载下来的呢? 一个 TCP 连接可以发多个 HTTP 请求? 要搞懂这个问题,需要先解决下面五个问题: 现代浏览...

spring-cloud-gateway静态路由

为什么引入 API 网关 使用 API 网关后的优点如下: 易于监控。可以在网关收集监控数据并将其推送到外部系统进行分析。 易于认证。可以在网关上进行认证,然后再将请求转发到后端的微服务,而无须在每个微服务中进行认证。 减少了客户端与各个微服务之间的交互次数。 基本环境见 spring-cloud-gateway 简介, 项目中 provider1 的...

HTML5中实现文件上传下载的三种解决方案(推荐)

前言:因自己负责的项目(jetty内嵌启动的SpringMvc)中需要实现文件上传,而自己对java文件上传这一块未接触过,且对 Http 协议较模糊,故这次采用渐进的方式来学习文件上传的原理与实践。该博客重在实践。 一. Http协议原理简介      HTTP是一个属于应用层的面向对象的协议,由于其简捷、快速的方式,适用于分布式超媒体信息系统。它于19...

HttpClient的get和post方式提交数据的使用

/** * Http工具类 */ public class HttpUtil { // 创建HttpClient对象 public static HttpClient httpClient = new DefaultHttpClient(); public static final String BASE_URL =...

http协议简介

  在做接口测试的过程中,都会遇到一些http协议,什么是http协议? 什么是http协议 HTTP协议是Hyper Text Transfer Protocol(超文本传输协议)的缩写,是用于从万维网(WWW:World Wide Web )服务器传输超文本到本地浏览器的传送协议。基于TCP的应用层协议,它不关心数据传输的细节,HTTP(超文本传输协议...