并发下载立即结束
创始人
2024-12-18 08:30:49
0次

以下是一个示例代码,展示了如何实现并发下载并在所有下载任务完成后立即结束:

import requests
from concurrent.futures import ThreadPoolExecutor, as_completed

def download_file(url):
    response = requests.get(url)
    if response.status_code == 200:
        file_name = url.split('/')[-1]
        with open(file_name, 'wb') as f:
            f.write(response.content)
            print(f"Downloaded {file_name} successfully.")

# 要下载的文件列表
file_urls = [
    'http://example.com/file1.txt',
    'http://example.com/file2.txt',
    'http://example.com/file3.txt'
]

# 设置最大线程数
max_workers = 3

# 创建线程池
with ThreadPoolExecutor(max_workers=max_workers) as executor:
    # 提交下载任务
    future_to_url = {executor.submit(download_file, url): url for url in file_urls}

    # 获取已完成的任务
    for future in as_completed(future_to_url):
        url = future_to_url[future]
        try:
            # 获取任务结果
            result = future.result()
        except Exception as e:
            print(f"Failed to download {url}. Exception: {e}")
        else:
            print(result)

print("All download tasks completed.")

在上面的示例代码中,我们使用了concurrent.futures模块中的ThreadPoolExecutor类来创建一个线程池,并设置最大线程数为3。然后,我们使用executor.submit()方法将下载任务提交给线程池,返回一个Future对象。将Future对象和对应的URL保存到future_to_url字典中,以便后续处理任务结果。

使用as_completed()函数可以获取已完成的任务,通过遍历future_to_url字典中的Future对象,我们可以获取任务的结果(或异常信息)。在本示例中,我们简单地打印了下载成功的文件名。

最后,我们在所有下载任务完成后打印出一条消息,表示所有并发下载任务已经结束。

相关内容

热门资讯

前端-session、jwt 目录:   (1)session (2&#x...
linux入门---制作进度条 了解缓冲区 我们首先来看看下面的操作: 我们首先创建了一个文件并在这个文件里面添加了...
关于测试,我发现了哪些新大陆 关于测试 平常也只是听说过一些关于测试的术语,但并没有使用过测试工具。偶然看到编程老师...
前缀和与对数器与二分法 1. 前缀和 假设有一个数组,我们想大量频繁的去访问L到R这个区间的和,...
nodejs:本地安装nvm实... 一、背景-使用不同版本node的原因 vue3+ts、nuxt3版本,node...
JAVA集合知识整理 Java集合知识整理 HashMap相关 HashMap的底层数据结构:jdk1.8之...
无刷直流电机介绍及单片机控制实... 无刷直流电机介绍及单片机控制实例前言基本概念优势与劣势使用寿命基本结构使用单片机控制实例电子调速器&...
fwdiary(2) dp2 1.传纸条  AcWing 275. 传纸条 - AcWing 走两条路,走一条最大的...
常用的DOS命令 常用的DOS命令 DOS(Disk Operating System,磁...
<C++> 类和对象(下) 1.const成员函数将const修饰的“成员函数”称之为const成员函数,cons...