Go语言实现大文件分片上传与断点续传功能

 更新时间:2025年09月13日 11:21:55   作者:枫叶V  
在现代 Web 应用中,大文件上传是一个常见需求,为了解决这些痛点,通常采用 分片上传 与 断点续传 的方案,本文将带你使用 Go 实现一个简易的大文件分片上传与断点续传服务,希望对大家有所帮助

在现代 Web 应用中,大文件上传是一个常见需求。直接上传大文件会遇到网络中断、上传超时、失败后无法续传等问题。为了解决这些痛点,通常采用 分片上传断点续传 的方案。

本文将带你使用 Go 实现一个简易的大文件分片上传与断点续传服务。

核心思路

1.分片上传

将大文件切分成多个小块(chunk),逐块上传,避免单次上传过大失败。

2.断点续传

每个文件有唯一的标识(如 MD5、UUID),服务端记录已上传的分片信息,上传中断后可继续上传剩余分片。

.3合并分片

当所有分片上传完成后,服务端将这些分片按顺序合并成完整文件。

服务端实现

上传接口设计

  • 初始化上传:生成 uploadId,返回客户端。
  • 上传分片/upload/chunk?uploadId=xxx&chunkIndex=1
  • 合并分片:所有分片传完后,调用 /upload/merge 合并。

Go 代码示例

package main

import (
	"fmt"
	"io"
	"net/http"
	"os"
	"path/filepath"
	"strconv"
)

// 临时存放分片目录
const uploadDir = "./uploads"

func main() {
	// 创建目录
	os.MkdirAll(uploadDir, os.ModePerm)

	http.HandleFunc("/upload/chunk", uploadChunkHandler)
	http.HandleFunc("/upload/merge", mergeChunksHandler)

	fmt.Println("服务已启动: http://localhost:8080")
	http.ListenAndServe(":8080", nil)
}

// 上传分片
func uploadChunkHandler(w http.ResponseWriter, r *http.Request) {
	uploadId := r.URL.Query().Get("uploadId")
	chunkIndex := r.URL.Query().Get("chunkIndex")

	if uploadId == "" || chunkIndex == "" {
		http.Error(w, "缺少参数", http.StatusBadRequest)
		return
	}

	// 保存分片目录
	chunkDir := filepath.Join(uploadDir, uploadId)
	os.MkdirAll(chunkDir, os.ModePerm)

	// 分片文件路径
	chunkPath := filepath.Join(chunkDir, chunkIndex)

	// 写入文件
	file, err := os.Create(chunkPath)
	if err != nil {
		http.Error(w, "无法保存分片", http.StatusInternalServerError)
		return
	}
	defer file.Close()

	_, err = io.Copy(file, r.Body)
	if err != nil {
		http.Error(w, "写入分片失败", http.StatusInternalServerError)
		return
	}

	w.Write([]byte("分片上传成功: " + chunkIndex))
}

// 合并分片
func mergeChunksHandler(w http.ResponseWriter, r *http.Request) {
	uploadId := r.URL.Query().Get("uploadId")
	totalChunks := r.URL.Query().Get("totalChunks")

	if uploadId == "" || totalChunks == "" {
		http.Error(w, "缺少参数", http.StatusBadRequest)
		return
	}

	chunkDir := filepath.Join(uploadDir, uploadId)
	mergedFile := filepath.Join(uploadDir, uploadId+"_merged")

	// 创建目标文件
	dst, err := os.Create(mergedFile)
	if err != nil {
		http.Error(w, "无法创建合并文件", http.StatusInternalServerError)
		return
	}
	defer dst.Close()

	// 合并分片
	chunkCount, _ := strconv.Atoi(totalChunks)
	for i := 1; i <= chunkCount; i++ {
		chunkPath := filepath.Join(chunkDir, strconv.Itoa(i))
		src, err := os.Open(chunkPath)
		if err != nil {
			http.Error(w, fmt.Sprintf("缺少分片 %d", i), http.StatusBadRequest)
			return
		}

		_, err = io.Copy(dst, src)
		src.Close()
		if err != nil {
			http.Error(w, "合并失败", http.StatusInternalServerError)
			return
		}
	}

	w.Write([]byte("文件合并完成: " + mergedFile))
}

客户端实现思路

前端/客户端需要

  • 将文件分割为多个 固定大小的 chunk。
  • 顺序调用 /upload/chunk 上传分片。
  • 上传完成后调用 /upload/merge 合并文件。
  • 如果上传中断,查询已上传分片,从断点继续。

示例伪代码:

async function uploadFile(file) {
  const chunkSize = 5 * 1024 * 1024; // 5MB
  const totalChunks = Math.ceil(file.size / chunkSize);
  const uploadId = generateUploadId(file); // 可用 MD5/UUID

  for (let i = 0; i < totalChunks; i++) {
    const start = i * chunkSize;
    const end = Math.min(file.size, start + chunkSize);
    const chunk = file.slice(start, end);

    let formData = new FormData();
    formData.append("file", chunk);

    await fetch(`/upload/chunk?uploadId=${uploadId}&chunkIndex=${i+1}`, {
      method: "POST",
      body: chunk
    });
  }

  await fetch(`/upload/merge?uploadId=${uploadId}&totalChunks=${totalChunks}`);
}

优化点

分片校验:上传前计算 MD5,避免重复上传。

并行上传:可同时并发上传多个分片,提升速度。

断点续传:服务端保存已上传分片信息,客户端查询后跳过已完成分片。

秒传功能:通过文件 Hash 判断文件是否已存在,直接返回完成。

总结

通过 Go 实现大文件分片上传与断点续传,可以有效提升上传成功率和用户体验。实际项目中,还需要结合 数据库记录、鉴权、并发控制、文件存储(如 OSS、S3、MinIO) 等功能,构建更健壮的文件上传系统。

到此这篇关于Go语言实现大文件分片上传与断点续传功能的文章就介绍到这了,更多相关Go大文件上传内容请搜索脚本之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持脚本之家!

相关文章

  • Go中匿名结构体的使用技巧

    Go中匿名结构体的使用技巧

    这篇文章主要给大家分享一个使用匿名结构体,提升Go编程效率的小技巧,没什么技术深度,属于在日常写代码过程中积累下来的一个提升自己编程效率的小经验
    2023-08-08
  • go语言遍历文件夹示例

    go语言遍历文件夹示例

    这篇文章主要介绍了go语言遍历文件夹示例,本文直接给出实现代码,需要的朋友可以参考下
    2015-03-03
  • golang 日志log与logrus示例详解

    golang 日志log与logrus示例详解

    log是Go语言标准库中一个简单的日志库,本文给大家介绍golang 日志log与logrus示例详解,感兴趣的朋友一起看看吧
    2025-03-03
  • Go 每日一库之termtables的使用

    Go 每日一库之termtables的使用

    本文主要介绍了Go 每日一库之termtables的使用,termtables处理表格形式数据的输出。是一个很小巧的工具库。具有一定的参考价值,感兴趣的小伙伴们可以参考一下
    2021-07-07
  • 为什么GO不支持循环引用

    为什么GO不支持循环引用

    这篇文章主要介绍的是为什么GO不支持循环引用,学习 Go 语言的开发者越来越多了,很多小伙伴在使用时,就会遇到种种不理解的问题,其中一点就是包的循环引用的报错,下main文章我们一起来看看学习原因
    2021-10-10
  • Golang实现读取excel文件并转换为JSON格式

    Golang实现读取excel文件并转换为JSON格式

    本文介绍了如何使用Golang读取Excel文件并将其转换为JSON格式,通过安装excelize依赖和创建readExcelToJSON方法,可以实现这一功能,如果需要转换数据类型,可以修改相应的代码,需要的朋友可以参考下
    2025-03-03
  • Golang中HttpRouter路由的使用详解

    Golang中HttpRouter路由的使用详解

    httprouter 是一个高性能、可扩展的HTTP路由,本文将通过一些简单的示例为大家讲讲httprouter 这个强大的 HTTP 路由是如何使用的,感兴趣的小伙伴可以了解一下
    2023-05-05
  • Go defer与time.sleep的使用与区别

    Go defer与time.sleep的使用与区别

    本文主要介绍了Go defer与time.sleep的使用与区别,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧
    2024-04-04
  • 浅析Golang如何向已关闭的chan读写数据

    浅析Golang如何向已关闭的chan读写数据

    这篇文章主要为大家详细介绍了Golang如何向已关闭的chan读写数据,文中的示例代码讲解详细,感兴趣的小伙伴可以跟随小编一起学习一下
    2024-02-02
  • Go语言实现字符串切片赋值的方法小结

    Go语言实现字符串切片赋值的方法小结

    这篇文章主要给大家介绍了Go语言实现字符串切片赋值的两种方法,分别是在for循环的range中以及在函数的参数传递中实现,有需要的朋友们可以根据自己的需要选择使用。下面来一起看看吧。
    2016-10-10

最新评论