解决方法是使用线程池来管理多线程请求,而不是使用URL列表。
下面是一个示例代码,使用Python的concurrent.futures
模块来创建线程池,然后使用线程池来发送请求:
import requests
from concurrent.futures import ThreadPoolExecutor, as_completed
def make_request(url):
response = requests.get(url)
return response.text
def main():
urls = ['http://example.com', 'http://example.org', 'http://example.net']
with ThreadPoolExecutor(max_workers=5) as executor:
futures = [executor.submit(make_request, url) for url in urls]
for future in as_completed(futures):
try:
result = future.result()
print(result)
except Exception as e:
print(f"An error occurred: {str(e)}")
if __name__ == "__main__":
main()
在上述示例中,我们创建了一个包含5个线程的线程池。然后,我们使用executor.submit()
方法将每个URL的请求包装成一个Future
对象,并将它们添加到futures
列表中。接下来,我们使用as_completed()
函数来迭代已完成的Future
对象,并使用future.result()
方法获取请求的结果。
通过使用线程池,我们可以同时发送多个请求,而不需要维护一个URL列表。这种方法可以提高请求的并发性和效率。