脚本之家 服务器常用软件
快捷导航
您的位置：首页 → 脚本专栏 → Golang → go多线程下载器

使用 go 实现多线程下载器的方法

 更新时间：2021年10月08日 10:17:52   作者：qxcheng  
本篇文章带领大家学习使用go实现一个简单的多线程下载器，给她家详细介绍了多线程下载原理及实例代码，感兴趣的朋友跟随小编一起看看吧

本篇文章我们用Go实现一个简单的多线程下载器。

1.多线程下载原理

通过判断下载文件链接返回头信息中的 Accept-Ranges 字段，如果为 bytes 则表示支持断点续传。

然后在请求头中设置 Range 字段为 bytes=[start]-[end]，以请求下载文件的分段部分，然后将所有分段合并为一个完整文件。

2.构造一个下载器

type HttpDownloader struct { 
    url string
    filename string
    contentLength int    
    acceptRanges bool     // 是否支持断点续传
    numThreads int        // 同时下载线程数
}

2.1 为下载器提供初始化方法

func New(url string, numThreads int) *HttpDownloader {
    var urlSplits []string = strings.Split(url, "/")
    var filename string = urlSplits[len(urlSplits)-1]

    res, err := http.Head(url)
    check(err)

    httpDownload := new(HttpDownloader)
    httpDownload.url = url
    httpDownload.contentLength = int(res.ContentLength)
    httpDownload.numThreads = numThreads
    httpDownload.filename = filename

    if len(res.Header["Accept-Ranges"]) != 0 && res.Header["Accept-Ranges"][0] == "bytes" {
        httpDownload.acceptRanges = true
    } else {
        httpDownload.acceptRanges = false
    }
    
    return httpDownload
}

3.实现下载综合调度逻辑

如果不支持多线程下载，就使用单线程下载。

func (h *HttpDownloader) Download() {
    f, err := os.Create(h.filename)
    check(err)
    defer f.Close()

    if h.acceptRanges == false {
        fmt.Println("该文件不支持多线程下载，单线程下载中：")
        resp, err := http.Get(h.url)
        check(err)
        save2file(h.filename, 0, resp)
    } else {
        var wg sync.WaitGroup
        for _, ranges := range h.Split() {
            fmt.Printf("多线程下载中:%d-%d\n", ranges[0], ranges[1])
            wg.Add(1)
            go func(start, end int) {
                defer wg.Done()
                h.download(start, end)
            }(ranges[0], ranges[1])
        }
        wg.Wait()
    }
}

3.1 下载文件分段

func (h *HttpDownloader) Split() [][]int {
    ranges := [][]int{}
    blockSize := h.contentLength / h.numThreads
    for i:=0; i<h.numThreads; i++ {
        var start int = i * blockSize
        var end int = (i + 1) * blockSize - 1
        if i == h.numThreads - 1 {
            end = h.contentLength - 1
        }
        ranges = append(ranges, []int{start, end})
    }
    return ranges
}

3.2 子线程下载函数

func (h *HttpDownloader) download(start, end int) {
    req, err := http.NewRequest("GET", h.url, nil)
    check(err)
    req.Header.Set("Range", fmt.Sprintf("bytes=%v-%v", start, end))
    req.Header.Set("User-Agent", userAgent)
    
    resp, err := http.DefaultClient.Do(req)
    check(err)
    defer resp.Body.Close() 

    save2file(h.filename, int64(start), resp)
}

4. 保存下载文件函数

func save2file(filename string, offset int64, resp *http.Response) {
    f, err := os.OpenFile(filename, os.O_WRONLY, 0660)
    check(err)
    f.Seek(offset, 0)
    defer f.Close()

    content, err := ioutil.ReadAll(resp.Body)
    check(err)  
    f.Write(content)
}

5.完整代码

package main

import (
    "fmt"
    "strings"
    "log"
    "os"
    "net/http"
    "sync"
    "io/ioutil"
)

const (
    userAgent = `Mozilla/5.0 (X11; Linux x86_64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/51.0.2704.103 Safari/537.36`
)

type HttpDownloader struct { 
    url string
    filename string
    contentLength int    
    acceptRanges bool     // 是否支持断点续传
    numThreads int        // 同时下载线程数
} 

func check(e error) {
    if e != nil {
        log.Println(e)
        panic(e)
    }
}           

func New(url string, numThreads int) *HttpDownloader {
    var urlSplits []string = strings.Split(url, "/")
    var filename string = urlSplits[len(urlSplits)-1]

    res, err := http.Head(url)
    check(err)

    httpDownload := new(HttpDownloader)
    httpDownload.url = url
    httpDownload.contentLength = int(res.ContentLength)
    httpDownload.numThreads = numThreads
    httpDownload.filename = filename

    if len(res.Header["Accept-Ranges"]) != 0 && res.Header["Accept-Ranges"][0] == "bytes" {
        httpDownload.acceptRanges = true
    } else {
        httpDownload.acceptRanges = false
    }
    
    return httpDownload
}

// 下载综合调度
func (h *HttpDownloader) Download() {
    f, err := os.Create(h.filename)
    check(err)
    defer f.Close()

    if h.acceptRanges == false {
        fmt.Println("该文件不支持多线程下载，单线程下载中：")
        resp, err := http.Get(h.url)
        check(err)
        save2file(h.filename, 0, resp)
    } else {
        var wg sync.WaitGroup
        for _, ranges := range h.Split() {
            fmt.Printf("多线程下载中:%d-%d\n", ranges[0], ranges[1])
            wg.Add(1)
            go func(start, end int) {
                defer wg.Done()
                h.download(start, end)
            }(ranges[0], ranges[1])
        }
        wg.Wait()
    }
}

// 下载文件分段
func (h *HttpDownloader) Split() [][]int {
    ranges := [][]int{}
    blockSize := h.contentLength / h.numThreads
    for i:=0; i<h.numThreads; i++ {
        var start int = i * blockSize
        var end int = (i + 1) * blockSize - 1
        if i == h.numThreads - 1 {
            end = h.contentLength - 1
        }
        ranges = append(ranges, []int{start, end})
    }
    return ranges
}

// 多线程下载
func (h *HttpDownloader) download(start, end int) {
    req, err := http.NewRequest("GET", h.url, nil)
    check(err)
    req.Header.Set("Range", fmt.Sprintf("bytes=%v-%v", start, end))
    req.Header.Set("User-Agent", userAgent)
    
    resp, err := http.DefaultClient.Do(req)
    check(err)
    defer resp.Body.Close() 

    save2file(h.filename, int64(start), resp)
}

// 保存文件
func save2file(filename string, offset int64, resp *http.Response) {
    f, err := os.OpenFile(filename, os.O_WRONLY, 0660)
    check(err)
    f.Seek(offset, 0)
    defer f.Close()

    content, err := ioutil.ReadAll(resp.Body)
    check(err)  
    f.Write(content)
}


func main() {
    var url string = "https://dl.softmgr.qq.com/original/im/QQ9.5.0.27852.exe"
    
    httpDownload := New(url, 4)
    fmt.Printf("Bool:%v\nContent:%d\n", httpDownload.acceptRanges, httpDownload.contentLength)

    httpDownload.Download()
}

到此这篇关于使用 go 实现多线程下载器的文章就介绍到这了,更多相关go多线程下载器内容请搜索脚本之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持脚本之家！

您可能感兴趣的文章:

相关文章

  • 深入理解Go语言中接口的使用

    深入理解Go语言中接口的使用

    在现代编程语言中，接口是不可或缺的一个重要特性，这篇文章将为大家详细介绍Go语言中的接口，从而能够更好得使用Go语言，需要的可以参考一下
    2023-06-06
  • 在Golang中正确的修改HTTPRequest的Host的操作方法

    在Golang中正确的修改HTTPRequest的Host的操作方法

    我们工作中经常需要通过HTTP请求Server的服务,比如脚本批量请求接口跑数据,由于一些网关策略,部分Server会要求请求中Header里面附带Host参数,所以本文给大家介绍了如何在Golang中正确的修改HTTPRequest的Host,需要的朋友可以参考下
    2023-12-12
  • Go语言中调用外部命令的方法总结

    Go语言中调用外部命令的方法总结

    在工作中，我们时不时地会需要在Go中调用外部命令。本文为大家总结了Go语言中调用外部命令的几种姿势，感兴趣的小伙伴可以跟随小编一起学习一下
    2022-11-11
  • 一文带你深入理解Golang中的泛型

    一文带你深入理解Golang中的泛型

    Go 在泛型方面一直被诟病，因为它在这方面相对比较落后。但是，在 Go 1.18 版本中，泛型已经被正式引入，成为了 Go 语言中一个重要的特性。本文将会详细介绍 Go 泛型的相关概念，语法和用法，希望能够帮助大家更好地理解和应用这一特性
    2023-05-05
  • Go内置零值标识符zero

    Go内置零值标识符zero

    大家学习和使用 Go 语言时,有一个神奇的概念：零值（zero-values）,所以本文想给大家分享一个关于零值的新提案,目测已经八九不离十了
    2023-08-08
  • Go语言Telnet回音服务器的实现

    Go语言Telnet回音服务器的实现

    这篇文章主要介绍了Go语言Telnet回音服务器的实现，文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧
    2020-01-01
  • Golang实现gRPC的Proxy的原理解析

    Golang实现gRPC的Proxy的原理解析

    gRPC是Google开始的一个RPC服务框架， 是英文全名为Google Remote Procedure Call的简称，广泛的应用在有RPC场景的业务系统中，这篇文章主要介绍了Golang实现gRPC的Proxy的原理,需要的朋友可以参考下
    2021-09-09
  • 使用client-go工具调用kubernetes API接口的教程详解(v1.17版本)

    使用client-go工具调用kubernetes API接口的教程详解(v1.17版本)

    这篇文章主要介绍了使用client-go工具调kubernetes API接口(v1.17版本),本文通过图文实例相结合给大家介绍的非常详细，对大家的学习或工作具有一定的参考借鉴价值，需要的朋友可以参考下
    2021-08-08
  • GO语言实现标题闪烁效果

    GO语言实现标题闪烁效果

    这篇文章主要介绍了GO语言实现标题闪烁效果，本文通过实例代码给大家介绍的非常详细，对大家的学习或工作具有一定的参考借鉴价值,需要的朋友可以参考下
    2020-07-07
  • Go语言单例模式详解

    Go语言单例模式详解

    本文主要介绍了Go语言单例模式详解，文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧
    2023-03-03

最新评论