程序代碼片段是這樣的:
maxPage := *flagMaxPage
if maxPage > 0 {
jobs := make(chan int, maxPage)
results := make(chan []map[string]string, maxPage)
// 招聘10個工人,讓他們工作(待命),每個工人會從jobs管道里獲得任務(wù),工人干活,把結(jié)果放到results管道
for w := 1; w <= 10; w++ {
go doWork(jobs, results)
}
//分配任務(wù)
for j := 1; j <= maxPage; j++ {
jobs <- j
}
close(jobs)
//db connect
db, err := mysqlUtil.CreateReadDb()
defer db.Close()
if err != nil {
log.Fatal("connect db err ", err)
fmt.Println("connect db err ", err)
}
//處理結(jié)果
for j := 1; j <= maxPage; j++ {
data := <-results
//這里做查詢和入庫操作
doDb(db, data)
fmt.Println(len(data))
}
close(results)
fmt.Println("all done...")
}
doDb函數(shù)如下:
func doDb(db *sql.DB,data []map[string]string) {
if data != nil {
for _, v := range data {
if v == nil {
continue
}
if v["title"] == "" {
continue
}
if v["url"] == "" {
continue
}
//寫入數(shù)據(jù)庫
sqlStr := `select * from film where title_md5 ='` + Md5(v["title"]) + `'`
rows, err := db.Query(sqlStr)
if err != nil {
fmt.Println("query err1 ", err)
continue
}
existData, err := mysqlUtil.GetRow(rows)
if err != nil {
fmt.Println("query err2 ", err)
continue
}
//如果為空,就插入數(shù)據(jù)
if len(existData) == 0 {
score := v["score"]
scoreVal, err := strconv.ParseFloat(score, 64)
if err != nil {
fmt.Println("insert data parse score error ", err)
continue
}
f1 := decimal.NewFromFloat(scoreVal)
f2 := decimal.NewFromFloat(100)
aaa := f1.Mul(f2).IntPart()
insertScore := strconv.Itoa(int(aaa))
titleMd5 := Md5(v["title"])
sqlInsert := `insert into film(title, img, uptime, url, score, title_md5) values ('` + v["title"] + `', '` + v["img"] + `', '` + v["uptime"] +
`','` + v["url"] + `','` + insertScore + `','` + titleMd5 + `')`
db.Query(sqlInsert)
}
}
}
}
測試了一下,大概跑20個協(xié)程,doDb這個函數(shù)的第二個參數(shù)一次最多15條數(shù)據(jù),在執(zhí)行到16個協(xié)程的結(jié)果后,就會在fmt.Println("query err1 ", err)這個地方報大量 :
query err1 dial tcp: lookup xxxx.com: no such host
在包這個錯誤的時候,我手動執(zhí)行
nslookup xxxx.com
解析是正常的。請問一下,這是為啥呢?doDb這個函數(shù)是一個一個處理result的,一共才20*15條記錄,為啥會出現(xiàn)這種問題呢?
在https://stackoverflow.com/que...。 在mac里執(zhí)行ulimit -u 發(fā)現(xiàn)只有256,當(dāng)操作300條數(shù)據(jù)的時候,大于這個值,所以會出現(xiàn)上面的問題。執(zhí)行ulimit -n 1000,再次操作300條數(shù)據(jù),就不會出現(xiàn)這種問題了。
北大青鳥APTECH成立于1999年。依托北京大學(xué)優(yōu)質(zhì)雄厚的教育資源和背景,秉承“教育改變生活”的發(fā)展理念,致力于培養(yǎng)中國IT技能型緊缺人才,是大數(shù)據(jù)專業(yè)的國家
達(dá)內(nèi)教育集團(tuán)成立于2002年,是一家由留學(xué)海歸創(chuàng)辦的高端職業(yè)教育培訓(xùn)機(jī)構(gòu),是中國一站式人才培養(yǎng)平臺、一站式人才輸送平臺。2014年4月3日在美國成功上市,融資1
北大課工場是北京大學(xué)校辦產(chǎn)業(yè)為響應(yīng)國家深化產(chǎn)教融合/校企合作的政策,積極推進(jìn)“中國制造2025”,實現(xiàn)中華民族偉大復(fù)興的升級產(chǎn)業(yè)鏈。利用北京大學(xué)優(yōu)質(zhì)教育資源及背
博為峰,中國職業(yè)人才培訓(xùn)領(lǐng)域的先行者
曾工作于聯(lián)想擔(dān)任系統(tǒng)開發(fā)工程師,曾在博彥科技股份有限公司擔(dān)任項目經(jīng)理從事移動互聯(lián)網(wǎng)管理及研發(fā)工作,曾創(chuàng)辦藍(lán)懿科技有限責(zé)任公司從事總經(jīng)理職務(wù)負(fù)責(zé)iOS教學(xué)及管理工作。
浪潮集團(tuán)項目經(jīng)理。精通Java與.NET 技術(shù), 熟練的跨平臺面向?qū)ο箝_發(fā)經(jīng)驗,技術(shù)功底深厚。 授課風(fēng)格 授課風(fēng)格清新自然、條理清晰、主次分明、重點難點突出、引人入勝。
精通HTML5和CSS3;Javascript及主流js庫,具有快速界面開發(fā)的能力,對瀏覽器兼容性、前端性能優(yōu)化等有深入理解。精通網(wǎng)頁制作和網(wǎng)頁游戲開發(fā)。
具有10 年的Java 企業(yè)應(yīng)用開發(fā)經(jīng)驗。曾經(jīng)歷任德國Software AG 技術(shù)顧問,美國Dachieve 系統(tǒng)架構(gòu)師,美國AngelEngineers Inc. 系統(tǒng)架構(gòu)師。