golang语言爬虫代理代码示例

栏目: Go · 发布时间: 5年前

packagemainimport("net/url""net/http""bytes""fmt""io/ioutil""math/rand""time""strconv")constProxyServer="t.16yun.cn:31111"typeProxyAuthstruct{UsernamestringPasswordstring}func(pProxyAuth)ProxyClient()http.Client{ifp.Username!=nilandp.Password!=nil{proxyURL,_:=url.Parse("http://"+p.Username+":"+p.Password+"@"+ProxyServer)}else{proxyURL,_:=url.Parse("http://"+ProxyServer)}returnhttp.Client{Transport:&http.Transport{Proxy:http.ProxyURL(proxyURL)}}}funcmain(){targetURI:="http://httpbin.org/ip"// 初始化 proxy http clientclient:=ProxyAuth{License:"username",SecretKey:"password"}.ProxyClient()request,_:=http.NewRequest("GET",targetURI,bytes.NewBuffer([]byte(``)))// 设置Proxy-Tunnel// rand.Seed(time.Now().UnixNano())// tunnel := rand.Intn(10000)// request.Header.Set("Proxy-Tunnel", strconv.Itoa(tunnel) )response,err:=client.Do(request)iferr!=nil{panic("failed to connect: "+err.Error())}else{bodyByte,err:=ioutil.ReadAll(response.Body)iferr!=nil{fmt.Println("读取 Body 时出错",err)return}response.Body.Close()body:=string(bodyByte)fmt.Println("Response Status:",response.Status)fmt.Println("Response Header:",response.Header)fmt.Println("Response Body:\n",body)}}


以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持 码农网

查看所有标签

猜你喜欢:

本站部分资源来源于网络,本站转载出于传递更多信息之目的,版权归原作者或者来源机构所有,如转载稿涉及版权问题,请联系我们

HTTP/2基础教程

HTTP/2基础教程

Stephen Ludin、Javier Garza / 罗正龙、郑维智 / 人民邮电出版社 / 2018-1 / 49.00元

让网站和应用更快速、更简洁、更稳健,从而有效提升用户体验,这无疑是众多开发者梦寐以求的。然而互联网发展日新月异,HTTP/1.1协议已经难以满足现今的需求。在众多Web性能提升方案中,HTTP/2值得尝试。 本书是HTTP/2实用指南,介绍了HTTP/2的设计初衷和新特性,以及如何才能充分利用这些特性来打造高性能网站及应用。作者用定量分析方法,对比了不同网络环境下及不同浏览器上HTTP/1.......一起来看看 《HTTP/2基础教程》 这本书的介绍吧!

在线进制转换器
在线进制转换器

各进制数互转换器

RGB CMYK 转换工具
RGB CMYK 转换工具

RGB CMYK 互转工具