[python] Python ‘요청’모듈을 사용하는 프록시

Program / 글쓴이

Python 의 우수한 요청 모듈에 대한 짧고 간단한 것 입니다.

문서에서 변수 ‘프록시’에 포함되어야하는 것을 찾을 수없는 것 같습니다. 표준 “IP : PORT”값을 사용하여 dict을 보내면 2 개의 값을 요구하는 것을 거부했습니다. 첫 번째 값은 ip이고 두 번째 포트는 포트라고 생각합니다 (문서에서 다루지 않는 것 같아).

문서는 이것을 언급합니다.

프록시 – (선택 사항) 프록시의 URL에 대한 사전 매핑 프로토콜입니다.

그래서 나는 이것을 시도했다 … 나는 무엇을해야합니까? 

proxy = { ip: port}

dict에 넣기 전에 이것을 어떤 유형으로 변환해야합니까? 

r = requests.get(url,headers=headers,proxies=proxy)

답변

proxies‘DICT 구문입니다 {"protocol":"ip:port", ...}. 이를 통해 http , https 및 ftp 프로토콜을 사용하는 요청에 대해 다른 (또는 동일한) 프록시를 지정할 수 있습니다 .

http_proxy  = "http://10.10.1.10:3128"
https_proxy = "https://10.10.1.11:1080"
ftp_proxy   = "ftp://10.10.1.10:3128"

proxyDict = {
              "http"  : http_proxy,
              "https" : https_proxy,
              "ftp"   : ftp_proxy
            }

r = requests.get(url, headers=headers, proxies=proxyDict)

으로부터 추론 requests문서 :

파라미터 :
method – 새로운 Request 객체의 메소드.
url– 새 요청 오브젝트의 URL.
…
proxies– (선택 사항) 프록시 의 URL에 대한 사전 매핑 프로토콜 .
…

Linux HTTP_PROXY에서는 HTTPS_PROXY, 및 FTP_PROXY환경 변수 를 통해이를 수행 할 수도 있습니다 .

export HTTP_PROXY=10.10.1.10:3128
export HTTPS_PROXY=10.10.1.11:1080
export FTP_PROXY=10.10.1.10:3128

Windows에서 :

set http_proxy=10.10.1.10:3128
set https_proxy=10.10.1.11:1080
set ftp_proxy=10.10.1.10:3128

Jay는 이것을 지적 해 주셔서 감사합니다.
구문은 요청 2.0.0으로 변경되었습니다 .
URL에 스키마를 추가해야합니다. https://2.python-requests.org/en/latest/user/advanced/#proxies

답변

urllib에는 시스템의 프록시 설정을 선택하는 데 정말 좋은 코드가 있으며 직접 사용할 수있는 올바른 형식으로되어 있습니다. 다음과 같이 사용할 수 있습니다.

import urllib

...
r = requests.get('http://example.org', proxies=urllib.request.getproxies())

정말 잘 작동하며 urllib은 Mac OS X 및 Windows 설정에 대해서도 알고 있습니다.

답변

여기서 프록시 설명서를 참조 할 수 있습니다 .

프록시를 사용해야하는 경우 proxies 인수를 사용하여 모든 요청 방법에 대한 개별 요청을 구성 할 수 있습니다.

import requests

proxies = {
  "http": "http://10.10.1.10:3128",
  "https": "https://10.10.1.10:1080",
}

requests.get("http://example.org", proxies=proxies)

프록시에서 HTTP 기본 인증을 사용하려면 http : // user : password@host.com/ 구문을 사용하십시오.

proxies = {
    "http": "http://user:pass@10.10.1.10:3128/"
}

답변

받아 들인 대답은 좋은 출발 이었지만 다음과 같은 오류가 계속 발생했습니다.

AssertionError: Not supported proxy scheme None

이 문제를 해결하려면 프록시 URL에 http : //를 지정하십시오. 

http_proxy  = "http://194.62.145.248:8080"
https_proxy  = "https://194.62.145.248:8080"
ftp_proxy   = "10.10.1.10:3128"

proxyDict = {
              "http"  : http_proxy,
              "https" : https_proxy,
              "ftp"   : ftp_proxy
            }

왜 원본이 일부 사람들에게는 효과가 있지만 나에게는 그렇지 않은지에 관심이 있습니다.

편집 : 이제 주 답변이 이것을 반영하도록 업데이트되었습니다. 🙂

답변

쿠키와 세션 데이터를 지속적으로 유지하려면 다음과 같이하는 것이 가장 좋습니다.

import requests

proxies = {
    'http': 'http://user:pass@10.10.1.0:3128',
    'https': 'https://user:pass@10.10.1.0:3128',
}

# Create the session and set the proxies.
s = requests.Session()
s.proxies = proxies

# Make the HTTP request through the session.
r = s.get('http://www.showmemyip.com/')

답변

8 년 늦었다. 하지만 난 좋아한다:

import os
import requests

os.environ['HTTP_PROXY'] = os.environ['http_proxy'] = 'http://http-connect-proxy:3128/'
os.environ['HTTPS_PROXY'] = os.environ['https_proxy'] = 'http://http-connect-proxy:3128/'
os.environ['NO_PROXY'] = os.environ['no_proxy'] = '127.0.0.1,localhost,.local'

r = requests.get('https://example.com')  # , verify=False

답변

다음은 프록시 구성 및 스톱워치가있는 요청 모듈에 대한 파이썬의 기본 클래스입니다!

import requests
import time
class BaseCheck():
    def __init__(self, url):
        self.http_proxy  = "http://user:pw@proxy:8080"
        self.https_proxy = "http://user:pw@proxy:8080"
        self.ftp_proxy   = "http://user:pw@proxy:8080"
        self.proxyDict = {
                      "http"  : self.http_proxy,
                      "https" : self.https_proxy,
                      "ftp"   : self.ftp_proxy
                    }
        self.url = url
        def makearr(tsteps):
            global stemps
            global steps
            stemps = {}
            for step in tsteps:
                stemps[step] = { 'start': 0, 'end': 0 }
            steps = tsteps
        makearr(['init','check'])
        def starttime(typ = ""):
            for stemp in stemps:
                if typ == "":
                    stemps[stemp]['start'] = time.time()
                else:
                    stemps[stemp][typ] = time.time()
        starttime()
    def __str__(self):
        return str(self.url)
    def getrequests(self):
        g=requests.get(self.url,proxies=self.proxyDict)
        print g.status_code
        print g.content
        print self.url
        stemps['init']['end'] = time.time()
        #print stemps['init']['end'] - stemps['init']['start']
        x= stemps['init']['end'] - stemps['init']['start']
        print x


test=BaseCheck(url='http://google.com')
test.getrequests()