創(chuàng)新互聯(lián)www.cdcxhl.cn八線動態(tài)BGP香港云服務(wù)器提供商，新人活動買多久送多久，劃算不套路！

為調(diào)兵山等地區(qū)用戶提供了全套網(wǎng)頁設(shè)計制作服務(wù)，及調(diào)兵山網(wǎng)站建設(shè)行業(yè)解決方案。主營業(yè)務(wù)為成都網(wǎng)站設(shè)計、網(wǎng)站制作、調(diào)兵山網(wǎng)站設(shè)計，以傳統(tǒng)方式定制建設(shè)網(wǎng)站，并提供域名空間備案等一條龍服務(wù)，秉承以專業(yè)、用心的態(tài)度為用戶提供真誠的服務(wù)。我們深信只要達(dá)到每一位用戶的要求，就會得到認(rèn)可，從而選擇與我們長期合作。這樣，我們也可以走得更遠(yuǎn)！

這篇文章主要介紹Pytorch如何讓GPU加速，文中示例代碼介紹的非常詳細(xì)，具有一定的參考價值，感興趣的小伙伴們一定要看完！

前言

深度學(xué)習(xí)涉及很多向量或多矩陣運(yùn)算，如矩陣相乘、矩陣相加、矩陣-向量乘法等。深層模型的算法，如BP，Auto-Encoder，CNN等，都可以寫成矩陣運(yùn)算的形式，無須寫成循環(huán)運(yùn)算。然而，在單核CPU上執(zhí)行時，矩陣運(yùn)算會被展開成循環(huán)的形式，本質(zhì)上還是串行執(zhí)行。GPU（Graphic Process Units，圖形處理器）的眾核體系結(jié)構(gòu)包含幾千個流處理器，可將矩陣運(yùn)算并行化執(zhí)行，大幅縮短計算時間。隨著NVIDIA、AMD等公司不斷推進(jìn)其GPU的大規(guī)模并行架構(gòu)，面向通用計算的GPU已成為加速可并行應(yīng)用程序的重要手段。得益于GPU眾核（many-core）體系結(jié)構(gòu)，程序在GPU系統(tǒng)上的運(yùn)行速度相較于單核CPU往往提升幾十倍乃至上千倍。

目前，GPU已經(jīng)發(fā)展到了較為成熟的階段。利用GPU來訓(xùn)練深度神經(jīng)網(wǎng)絡(luò)，可以充分發(fā)揮其數(shù)以千計計算核心的能力，在使用海量訓(xùn)練數(shù)據(jù)的場景下，所耗費(fèi)的時間大幅縮短，占用的服務(wù)器也更少。如果對適當(dāng)?shù)纳疃壬窠?jīng)網(wǎng)絡(luò)進(jìn)行合理優(yōu)化，一塊GPU卡相當(dāng)于數(shù)十甚至上百臺CPU服務(wù)器的計算能力，因此GPU已經(jīng)成為業(yè)界在深度學(xué)習(xí)模型訓(xùn)練方面的選解決方案。

如何使用GPU？現(xiàn)在很多深度學(xué)習(xí)工具都支持GPU運(yùn)算，使用時只要簡單配置即可。Pytorch支持GPU，可以通過to(device)函數(shù)來將數(shù)據(jù)從內(nèi)存中轉(zhuǎn)移到GPU顯存，如果有多個GPU還可以定位到哪個或哪些GPU。Pytorch一般把GPU作用于張量(Tensor)或模型（包括torch.nn下面的一些網(wǎng)絡(luò)模型以及自己創(chuàng)建的模型）等數(shù)據(jù)結(jié)構(gòu)上。

單GPU加速

使用GPU之前，需要確保GPU是可以使用，可通過torch.cuda.is_available()的返回值來進(jìn)行判斷。返回True則具有能夠使用的GPU。

通過torch.cuda.device_count()可以獲得能夠使用的GPU數(shù)量。

如何查看平臺GPU的配置信息？在命令行輸入命令nvidia-smi即可 (適合于Linux或Windows環(huán)境)。圖5-13是GPU配置信息樣例，從中可以看出共有2個GPU。

圖 GPU配置信息

把數(shù)據(jù)從內(nèi)存轉(zhuǎn)移到GPU，一般針對張量（我們需要的數(shù)據(jù)）和模型。 對張量（類型為FloatTensor或者是LongTensor等），一律直接使用方法.to(device)或.cuda()即可。

device = torch.device("cuda:0" if torch.cuda.is_available() else "cpu")
#或device = torch.device("cuda:0")
device1 = torch.device("cuda:1") 
for batch_idx, (img, label) in enumerate(train_loader):
  img=img.to(device)
  label=label.to(device)

文章名稱：Pytorch如何讓GPU加速-創(chuàng)新互聯(lián)
網(wǎng)站網(wǎng)址：http://aaarwkj.com/article6/cojgog.html

成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián)，為您提供網(wǎng)站排名、用戶體驗、外貿(mào)建站、網(wǎng)站建設(shè)、ChatGPT、自適應(yīng)網(wǎng)站

廣告

聲明：本網(wǎng)站發(fā)布的內(nèi)容（圖片、視頻和文字）以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主，如果涉及侵權(quán)請盡快告知，我們將會在第一時間刪除。文章觀點不代表本網(wǎng)站立場，如需處理請聯(lián)系客服。電話：028-86922220；郵箱：631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載，或轉(zhuǎn)載時需注明來源： 創(chuàng)新互聯(lián)