在Go语言中,可以使用goroutine和channel来实现百万并发请求的处理。以下是一种解决方案的示例:
- 创建一个请求队列,将需要发送的请求放入队列中。
- 创建一个用于接收响应的结果队列。
- 使用goroutine启动多个工作协程,每个协程从请求队列中获取一个请求,发送请求并将响应结果放入结果队列中。
- 使用一个计数器来跟踪工作协程的完成情况。
- 使用一个无限循环来不断从结果队列中获取响应结果,直到所有请求都已完成。
- 在主协程中等待所有工作协程完成。
示例代码如下:
package main
import (
"fmt"
"net/http"
"sync"
)
func worker(requests <-chan string, results chan<- string, wg *sync.WaitGroup) {
defer wg.Done()
for req := range requests {
resp, err := http.Get(req)
if err != nil {
results <- fmt.Sprintf("Error: %s", err.Error())
} else {
results <- fmt.Sprintf("Response: %s", resp.Status)
}
}
}
func main() {
numWorkers := 100
numRequests := 1000000
requests := make(chan string, numRequests)
results := make(chan string, numRequests)
var wg sync.WaitGroup
wg.Add(numWorkers)
// 启动工作协程
for i := 0; i < numWorkers; i++ {
go worker(requests, results, &wg)
}
// 填充请求队列
for i := 0; i < numRequests; i++ {
requests <- "https://example.com"
}
close(requests)
// 等待所有工作协程完成
go func() {
wg.Wait()
close(results)
}()
// 处理结果队列
for res := range results {
fmt.Println(res)
}
}
该示例中,使用了100个工作协程来处理100万个并发请求。每个工作协程从请求队列中获取一个请求,发送请求并将响应结果放入结果队列中。主协程等待所有工作协程完成后,从结果队列中获取响应结果并输出。
请注意,该示例中的请求队列和结果队列都使用了缓冲通道,以避免阻塞。根据实际情况,你可以根据系统的负载情况调整队列大小。
此外,你还可以根据实际情况使用连接池、调整超时时间等来优化并发请求的处理。