兴国资源网 Design By www.nnzcdc.com
背景说明
假设有一个分布式文件系统,现需要从该系统中并发下载一部分文件到本地机器。
已知该文件系统的部分节点ip, 以及需要下载的文件fileID列表,并能通过这些信息来拼接下载地址。
其中节点ip列表保存在xx_node.txt, 要下载的fileID保存在xx_fileID.txt中。
代码示例
package main import ( "bufio" "flag" "fmt" "io" "math/rand" "net/http" "os" "time" ) var ( clustername = flag.String("clustername", "c1", "download clustername") ) // 逐行读取文件内容 func ReadLines(fpath string) []string { fd, err := os.Open(fpath) if err != nil { panic(err) } defer fd.Close() var lines []string scanner := bufio.NewScanner(fd) for scanner.Scan() { lines = append(lines, scanner.Text()) } if err := scanner.Err(); err != nil { fmt.Fprintln(os.Stderr, err) } return lines } // 实现单个文件的下载 func Download(clustername string, node string, fileID string) string { nt := time.Now().Format("2006-01-02 15:04:05") fmt.Printf("[%s]To download %s\n", nt, fileID) url := fmt.Sprintf("http://%s/file/%s", node, fileID) fpath := fmt.Sprintf("/yourpath/download/%s_%s", clustername, fileID) newFile, err := os.Create(fpath) if err != nil { fmt.Println(err.Error()) return "process failed for " + fileID } defer newFile.Close() client := http.Client{Timeout: 900 * time.Second} resp, err := client.Get(url) defer resp.Body.Close() _, err = io.Copy(newFile, resp.Body) if err != nil { fmt.Println(err.Error()) } return fileID } func main() { flag.Parse() // 从文件中读取节点ip列表 nodelist := ReadLines(fmt.Sprintf("%s_node.txt", *clustername)) if len(nodelist) == 0 { return } // 从文件中读取待下载的文件ID列表 fileIDlist := ReadLines(fmt.Sprintf("%s_fileID.txt", *clustername)) if len(fileIDlist) == 0 { return } ch := make(chan string) // 每个goroutine处理一个文件的下载 r := rand.New(rand.NewSource(time.Now().UnixNano())) for _, fileID := range fileIDlist { node := nodelist[r.Intn(len(nodelist))] go func(node, fileID string) { ch <- Download(*clustername, node, fileID) }(node, fileID) } // 等待每个文件下载的完成,并检查超时 timeout := time.After(900 * time.Second) for idx := 0; idx < len(fileIDlist); idx++ { select { case res := <-ch: nt := time.Now().Format("2006-01-02 15:04:05") fmt.Printf("[%s]Finish download %s\n", nt, res) case <-timeout: fmt.Println("Timeout...") break } } }
小结
下载时没有用到默认的http Client, 并指定了超时时间;
下载文件时调用了系统调用, goroutine会被挂起;
下载文件完成后会唤醒被挂起的goroutine, 该goroutine执行完后面的代码后便退出;
全局超时控制,超时后主线程退出。
以上这篇golang并发下载多个文件的方法就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持。
兴国资源网 Design By www.nnzcdc.com
广告合作:本站广告合作请联系QQ:858582 申请时备注:广告合作(否则不回)
免责声明:本站资源来自互联网收集,仅供用于学习和交流,请遵循相关法律法规,本站一切资源不代表本站立场,如有侵权、后门、不妥请联系本站删除!
免责声明:本站资源来自互联网收集,仅供用于学习和交流,请遵循相关法律法规,本站一切资源不代表本站立场,如有侵权、后门、不妥请联系本站删除!
兴国资源网 Design By www.nnzcdc.com
暂无评论...
更新日志
2024年05月03日
2024年05月03日
- BlackWings Audio《女神异闻录 夜幕魅影-OST1》[320K/MP3][113.76MB]
- 海来阿木《西楼情歌》开盘母带[低速原抓WAV+CUE]
- 陈百强.2003-完全陈百强5CD【华纳】【WAV+CUE】
- 群星.2012-顾听生辉·乐坛大宗师经典半世纪3CD【环球】【WAV+CUE】
- BlackWings Audio《女神异闻录 夜幕魅影-OST1》[FLAC/分轨][332.91MB]
- 群星《音你而来 第2期》[320K/MP3][72.1MB]
- 群星《音你而来 第2期》[FLAC/分轨][197.58MB]
- 群星-中国新民乐(笛子)-戏竹4CD(DSD)[雨林唱片]WAV+CUE
- JacobCollier《DjesseVol.2》(2019)Hi-Res96kHz_24bit
- 黄品源.2002-漫漫岁月情·珍藏集(引进版)【滚石】【WAV+CUE】
- NorahJones《NotTooLate》(2024)Hi-Res192kHz_24bit
- RIMZEE《FeedTheStreets》(2024)[FLAC]
- 杭天琪.1989-入梦(TP版)【中唱】【WAV+CUE】
- 彭正《十年》[320K/MP3][98.75MB]
- 彭正《十年》[FLAC/分轨][288.77MB]