Web Crawler go go不同输出相同的代码
Posted
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了Web Crawler go go不同输出相同的代码相关的知识,希望对你有一定的参考价值。
我一直在努力做所有的go教程,我被困在网络爬虫。我以为我完成了它,但输出不一致,我没有足够的并发经验来弄清楚原因。
这是我的代码:
package main
import (
"fmt"
"sync"
)
type Fetcher interface {
// Fetch returns the body of URL and
// a slice of URLs found on that page.
Fetch(url string) (body string, urls []string, err error)
}
var cache = struct {
fetched map[string]bool
sync.Mutex
}{fetched: make(map[string]bool)}
// Crawl uses fetcher to recursively crawl
// pages starting with url, to a maximum of depth.
func Crawl(url string, depth int, fetcher Fetcher, c chan []string, quit chan int) {
if depth <= 0 {
return
}
go safeVisit(url, c, quit, fetcher)
for {
select {
case <- quit:
return
case u:= <-c:
for _, v:= range u {
go Crawl(v, depth -1, fetcher, c, quit)
}
}
}
}
func main() {
c := make(chan []string)
quit := make(chan int)
Crawl("http://golang.org/", 4, fetcher, c, quit)
}
func safeVisit(url string, c chan []string, quit chan int, fetcher Fetcher) {
cache.Lock()
defer cache.Unlock()
if _, ok := cache.fetched[url] ; ok {
quit <- 0
return
}
body, urls, err := fetcher.Fetch(url)
cache.fetched[url] = true
if err != nil {
fmt.Println(err)
return
}
fmt.Printf("Visited : %s, %q
", url, body)
c <- urls
}
// fakeFetcher is Fetcher that returns canned results.
type fakeFetcher map[string]*fakeResult
type fakeResult struct {
body string
urls []string
}
func (f fakeFetcher) Fetch(url string) (string, []string, error) {
if res, ok := f[url]; ok {
return res.body, res.urls, nil
}
return "", nil, fmt.Errorf("not found: %s", url)
}
// fetcher is a populated fakeFetcher.
var fetcher = fakeFetcher{
"http://golang.org/": &fakeResult{
"The Go Programming Language",
[]string{
"http://golang.org/pkg/",
"http://golang.org/cmd/",
},
},
"http://golang.org/pkg/": &fakeResult{
"Packages",
[]string{
"http://golang.org/",
"http://golang.org/cmd/",
"http://golang.org/pkg/fmt/",
"http://golang.org/pkg/os/",
},
},
"http://golang.org/pkg/fmt/": &fakeResult{
"Package fmt",
[]string{
"http://golang.org/",
"http://golang.org/pkg/",
},
},
"http://golang.org/pkg/os/": &fakeResult{
"Package os",
[]string{
"http://golang.org/",
"http://golang.org/pkg/",
},
},
}
这是一些示例输出
Visited : http://golang.org/, "The Go Programming Language"
not found: http://golang.org/cmd/
Visited : http://golang.org/pkg/, "Packages"
Visited : http://golang.org/pkg/os/, "Package os"
**Visited : http://golang.org/pkg/fmt/, "Package fmt"**
Process finished with exit code 0
与第一个不同的最后一个包不同(故意在上面的星号)
Visited : http://golang.org/, "The Go Programming Language"
not found: http://golang.org/cmd/
Visited : http://golang.org/pkg/, "Packages"
Visited : http://golang.org/pkg/os/, "Package os"
最后,甚至在某些运行中出现僵局:
Visited : http://golang.org/, "The Go Programming Language"
not found: http://golang.org/cmd/
Visited : http://golang.org/pkg/, "Packages"
Visited : http://golang.org/pkg/os/, "Package os"
Visited : http://golang.org/pkg/fmt/, "Package fmt"
fatal error: all goroutines are asleep - deadlock!
goroutine 1 [select]:
main.Crawl(0x4bfdf9, 0x12, 0x4, 0x524220, 0xc420088120, 0xc420092000, 0xc420092060)
/home/kostas/development/challenges/go/helloWorld.go:26 +0x201
main.main()
/home/kostas/development/challenges/go/helloWorld.go:39 +0xab
goroutine 23 [select]:
main.Crawl(0x4bfdf9, 0x12, 0x3, 0x524220, 0xc420088120, 0xc420092000, 0xc420092060)
/home/kostas/development/challenges/go/helloWorld.go:26 +0x201
created by main.Crawl
/home/kostas/development/challenges/go/helloWorld.go:31 +0x123
goroutine 24 [select]:
main.Crawl(0x4c09f9, 0x16, 0x3, 0x524220, 0xc420088120, 0xc420092000, 0xc420092060)
/home/kostas/development/challenges/go/helloWorld.go:26 +0x201
created by main.Crawl
/home/kostas/development/challenges/go/helloWorld.go:31 +0x123
goroutine 5 [select]:
main.Crawl(0x4bfdf9, 0x12, 0x3, 0x524220, 0xc420088120, 0xc420092000, 0xc420092060)
/home/kostas/development/challenges/go/helloWorld.go:26 +0x201
created by main.Crawl
/home/kostas/development/challenges/go/helloWorld.go:31 +0x123
goroutine 6 [select]:
main.Crawl(0x4c0a0f, 0x16, 0x3, 0x524220, 0xc420088120, 0xc420092000, 0xc420092060)
/home/kostas/development/challenges/go/helloWorld.go:26 +0x201
created by main.Crawl
/home/kostas/development/challenges/go/helloWorld.go:31 +0x123
我假设它与并发和递归有关。我已经在git hub中看到过使用等待组等的其他解决方案,但它没有在教程中使用 - 到目前为止的游览,所以我宁愿不使用它。
UPDATE
我弄清楚发生了什么,并在处理这个问题。基本上有时候select语句会陷入无限循环,因为通道退出并且c并不总是以预期的顺序执行。我添加了一个打印的默认案例(“无事可做”),程序有时会永远循环,有时候会以正确的方式运气。我的退出条件不对
我认为情况很清楚。你的频道搞乱了。多个goroutine正在从同一个频道接收,golang只是随机选择一个。
当你通过quit
发送零时,你永远不知道哪个goroutine退出:它是由go sheduler随机挑选的。在从quit
接收之前,有可能从c
收到新生成的爬行(即使两个频道都准备好了)。
由于这个原因,depth
是混乱的,它使得safeVisit
的数量被称为不稳定,导致quit
发出不同的(随机)信号。有时退出所有生成的goroutine是不够的,这是一个僵局。
编辑:
首先,你应该了解你的任务是什么。 Crawl
函数接受一个url,一个dep和一个fetcher,它:
- 获取网址
- 打印获取的身体
- 使用
Crawl
从获取的url生成新的dep-1
队列
虽然巡演要求你在parellel中“获取”url,但很明显第2步和第3步必须在第1步之后发生,这意味着单个Crawl等待获取是正常的。这意味着,不需要新的goroutine来调用Fetch
。
在第3步,每个新的Crawl
呼叫都不需要等待前一个完成,所以这些呼叫应该是parellel。
通过这些分析,可以得出以下代码:
func Crawl(url string, depth int, fetcher Fetcher) {
// TODO: Fetch URLs in parallel.
// TODO: Don't fetch the same URL twice.
// This implementation doesn't do either:
if depth <= 0 {
return
}
body, urls, err := fetcher.Fetch(url)
if err != nil {
fmt.Println(err)
return
}
fmt.Printf("found: %s %q
", url, body)
for _, u := range urls {
go Crawl(u, depth-1, fetcher)
}
return
}
还有一个问题:处理访问过的网址。你已经做得很好,而不是发送quit
,只需将它func(string) bool
直接调用它:if Visited(Url) { return }
,它完成了。
旁注:巡演真的不擅长教授并发性。您可能希望查看博客文章,例如golang并发模式或通过通信共享内存。
以上是关于Web Crawler go go不同输出相同的代码的主要内容,如果未能解决你的问题,请参考以下文章