Sada CUDA Toolkit je nezbytná pro vývojáře pracující s GPU NVIDIA a poskytuje komplexní vývojové prostředí pro aplikace s akcelerací GPU. Zahrnuje knihovny, nástroje pro ladění a optimalizaci, kompilátor a runtime knihovny pro vytváření a nasazování aplikací na GPU s podporou CUDA. Instalace sady CUDA Toolkit na Ubuntu vám umožní využít sílu paralelního počítání pro úkoly, jako je strojové učení, vědecké výpočty a zpracování dat v reálném čase.
Chcete-li nainstalovat sadu nástrojů CUDA na Ubuntu 24.04, 22.04 nebo 20.04, můžete použít oficiální zrcadlo úložiště APT společnosti NVIDIA. Tato metoda zajišťuje, že budete mít přístup k nejnovější verzi sady nástrojů spolu se všemi aktualizacemi nebo záplatami vydanými společností NVIDIA. Tento průvodce vás krok za krokem provede procesem instalace.
Odeberte existující instalace CUDA a NVIDIA
Při instalaci ovladačů NVIDIA je klíčové začít s čistým štítem, zejména při plánování upgradu nebo změny verze. To znamená odstranění všech existujících instalačních balíčků NVIDIA z vašeho systému. Tento krok pomáhá předcházet potenciálním konfliktům a problémům vyplývajícím z překrývajících se instalací. Pokud jste však dosud nenainstalovali ovladače NVIDIA, přeskočte tuto část a přejděte k další.
Poznámka: Toto doporučení můžete přeskočit, pokud máte nový systém bez předchozích instalací NVIDIA nebo CUDA. Pokud však již máte existující instalaci NVIDIA nebo CUDA, je důležité ji nejprve odstranit. Pokud tak neučiníte, může to vést k problémům s instalací nebo nestabilitě systému související se softwarem.
Odeberte balíčky NVIDIA nainstalované pomocí příkazů APT
Pokud jste nainstalovali ovladače NVIDIA pomocí správce balíčků APT, můžete k odstranění všech stop NVIDIA ze systému použít jediný příkaz. Tento příkaz vyhledá všechny balíčky související s NVIDIA a odstraní je z vašeho systému. Spusťte ve svém terminálu následující příkaz:
sudo apt autoremove cuda* nvidia* --purge
Tento příkaz používá volbu autoremove příkazu apt, která odstraní balíčky, které byly automaticky nainstalovány, aby byly uspokojeny závislosti jiných balíčků a nyní již nejsou potřeba. Vzor nvidia* odpovídá všem balíčkům začínajícím na 'nvidia'. Volba –purge říká apt, aby odstranil nejen balíčky, ale také jejich konfigurační soubory.
Odeberte ovladače NVIDIA nainstalované přes Runfile
Pokud jste nainstalovali ovladače NVIDIA pomocí a .run
(což se obecně nedoporučuje kvůli lepším alternativám, jako je úložiště NVIDIA CUDA), budete muset k jejich odstranění použít jiný přístup.
Chcete-li odinstalovat instalaci typu runfile, použijte následující příkaz:
sudo /usr/bin/nvidia-uninstall
Příkaz spustí skript nvidia-uninstall zahrnutý v instalaci runfile. Tento skript zajišťuje čisté odstranění ovladače NVIDIA nainstalovaného prostřednictvím souboru runfile.
Odeberte sadu CUDA Toolkit nainstalovanou přes Runfile
Pokud jste nainstalovali sadu nástrojů CUDA pomocí souboru runfile, musíte jej odebrat. Použijte metodu podobnou té pro odinstalaci ovladačů NVIDIA. Chcete-li odebrat sadu nástrojů CUDA, spusťte následující příkaz:
sudo /usr/local/cuda-X.Y/bin/cuda-uninstall
Nahraďte XY číslem verze sady nástrojů CUDA, kterou jste nainstalovali. Tento příkaz použijte ke spuštění skriptu cuda-uninstall, který je součástí instalace runfile sady nástrojů CUDA. Tento skript zajišťuje čisté odstranění sady nástrojů CUDA z vašeho systému.
Nainstalujte CUDA Toolkit pomocí příkazů APT
Jak již bylo zmíněno, instalace CUDA přímo z úložiště NVIDIA CUDA je nejúčinnějším přístupem. Tato metoda zajišťuje, že budete první, kdo obdrží všechna nová vylepšení, opravy chyb, aktualizace zabezpečení nebo funkce.
Příprava vašeho systému pro NVIDIA CUDA PPA
Než se pustíme do procesu instalace, musíme se ujistit, že je váš systém připraven. To zahrnuje instalaci několika nezbytných balíčků. Tyto balíčky již mohou být ve vašem systému, ale dvojitá kontrola neuškodí. Spusťte ve svém terminálu následující příkaz:
sudo apt install build-essential gcc dirmngr ca-certificates software-properties-common apt-transport-https dkms curl -y
Tento příkaz nainstaluje několik balíčků, které jsou nezbytné pro následující kroky. Tyto balíčky zahrnují dirmngr (pro správu klíčů), ca-certificates (pro manipulaci s certifikáty SSL), software-properties-common (pro správu softwarových úložišť), apt-transport-https (pro bezpečné stahování balíčků), dkms (pro správu modulů jádra ) a curl (pro stahování souborů z internetu).
Importujte klíč GPG pro NVIDIA CUDA PPA
Bezpečnost je nejvyšší prioritou při instalaci softwaru. Abychom ověřili pravost a integritu balíčků, které chceme nainstalovat, musíme importovat klíč GPG pro naši konkrétní distribuční verzi. Úložiště používá tento klíč k podepisování balíčků. Jeho importem dáváme našemu systému pokyn, aby důvěřoval balíčkům, které tento klíč podepsal.
Nejprve pro vydání Ubuntu 24.04 Numble Numbat použijte následující příkaz:
curl -fSsL https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2404/x86_64/3bf863cc.pub | sudo gpg --dearmor | sudo tee /usr/share/keyrings/nvidia-drivers.gpg > /dev/null 2>&1
Za druhé, pro vydání Ubuntu 22.04 Jammy Jellyfish použijte následující příkaz:
curl -fSsL https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2204/x86_64/3bf863cc.pub | sudo gpg --dearmor | sudo tee /usr/share/keyrings/nvidia-drivers.gpg > /dev/null 2>&1
Nakonec pro vydání Ubuntu 20.04 Focal Fossa použijte tento příkaz:
curl -fSsL https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2004/x86_64/3bf863cc.pub | sudo gpg --dearmor | sudo tee /usr/share/keyrings/nvidia-drivers.gpg > /dev/null 2>&1
Importujte úložiště NVIDIA
S GPG klíčem na svém místě nyní můžeme přidat úložiště NVIDIA do našeho systému. Toto úložiště obsahuje balíčky, které potřebujeme pro naši instalaci CUDA.
Nejprve pro Ubuntu 24.04 Numble Numbat použijte následující příkaz:
echo 'deb [signed-by=/usr/share/keyrings/nvidia-drivers.gpg] https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2404/x86_64/ /' | sudo tee /etc/apt/sources.list.d/nvidia-drivers.list
Za druhé, pro Ubuntu 22.04 Jammy Jellyfish použijte následující příkaz:
echo 'deb [signed-by=/usr/share/keyrings/nvidia-drivers.gpg] https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2204/x86_64/ /' | sudo tee /etc/apt/sources.list.d/nvidia-drivers.list
Nakonec pro Ubuntu 20.04 Focal Fossa použijte tento příkaz:
echo 'deb [signed-by=/usr/share/keyrings/nvidia-drivers.gpg] https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2004/x86_64/ /' | sudo tee /etc/apt/sources.list.d/nvidia-drivers.list
Aktualizace seznamu balíčků pro NVIDIA CUDA Toolkit PPA
Nyní, když jsme přidali úložiště NVIDIA, musíme aktualizovat seznam balíčků našeho systému. To zajišťuje, že náš systém zná nové balíčky dostupné v úložišti NVIDIA. Chcete-li to provést, spusťte následující příkaz:
sudo apt update
Tento příkaz načte nejnovější informace o balíčku ze všech nakonfigurovaných úložišť, včetně nově přidaného úložiště NVIDIA.
Nainstalujte CUDA Toolkit
Můžeme nainstalovat CUDA s nejnovějšími ovladači NVIDIA se vším nastaveným. Než to však uděláme, je dobré zkontrolovat dostupné verze ovladačů. Můžete to udělat pomocí příkazu APT search:
apt search cuda-drivers
Tento příkaz zobrazí seznam všech dostupných verzí CUDA. Můžete si vybrat ten, který nejlépe vyhovuje vašim potřebám. V této příručce si ukážeme, jak nainstalovat nejnovější verzi.
Případně můžete vyhledat ovladače cuda a nvidia:
sudo apt search cuda-drivers
sudo apt search nvidia-driver
Nyní si můžete nainstalovat verzi CUDA/NVIDIA, se kterou chcete pracovat. Nezapomeňte nahradit 550 za 545, 535, 530, 525, 520, 515 atd., v závislosti na vašich preferencích.
sudo apt install nvidia-driver-550 cuda-drivers-550 cuda
Mějte na paměti, že výše uvedený příkaz je pouze příkladem. Jak bylo uvedeno výše, verzi, kterou potřebujete, můžete nainstalovat pomocí vyhledávání APT.
Po instalaci budete muset restartovat systém:
sudo reboot
Začínáme s CUDA
Vydat se na cestu s CUDA na Ubuntu Linux může být vzrušující. Abychom vám pomohli procházet touto cestou plynuleji, uvádíme několik tipů a triků, které vám pomohou zlepšit vaše zkušenosti a zvýšit produktivitu.
Pochopení schopností GPU s NVIDIA CUDA
Než se pustíte do programování CUDA, je zásadní porozumět možnostem vašeho GPU. Různé GPU podporují různé verze CUDA a mají různý počet jader, velikosti paměti a další funkce. Můžete použít nvidia-smi
příkaz k získání podrobných informací o vašem GPU:
nvidia-smi
Tento příkaz poskytuje informace o názvu vašeho GPU, celkové paměti, verzi CUDA a další. Pochopení schopností vašeho GPU vám může pomoci psát efektivnější programy CUDA.
Dokumentace CUDA Toolkit
CUDA Toolkit má rozsáhlou dokumentaci, včetně programové příručky, příručky osvědčených postupů a odkazů na API. Seznámení s těmito zdroji může být neuvěřitelně přínosné. K dokumentaci se dostanete online na Dokumentace sady nástrojů NVIDIA CUDA strana.
CUDA vzorky
CUDA Toolkit obsahuje vzorové programy demonstrující různé aspekty programování CUDA, od základních konceptů až po pokročilé techniky. Tyto ukázky mohou být skvělým učebním zdrojem. Můžete je najít v adresáři /usr/local/cuda/samples po instalaci CUDA Toolkit.
Aktualizujte sadu nástrojů NVIDIA Cuda Toolkit
NVIDIA pravidelně vydává nové verze CUDA Toolkit, často včetně vylepšení výkonu, oprav chyb a nových funkcí. Udržování vaší instalace CUDA v aktuálním stavu zajišťuje, že tato vylepšení budete moci používat. Nezapomeňte, že jste svůj systém nastavili tak, aby přijímal aktualizace přímo z úložiště NVIDIA CUDA, takže můžete snadno aktualizovat svou instalaci CUDA pomocí správce balíčků APT:
sudo apt update
sudo apt upgrade
Prozkoumávání knihoven CUDA s NVIDIA CUDA
CUDA nabízí několik knihoven, které poskytují funkce na vysoké úrovni pro každodenní výpočetní úlohy, jako je lineární algebra, Fourierova transformace a další. Knihovny jako cuBLAS, cuFFT a cuDNN jsou vysoce optimalizované, což šetří čas a námahu. Dokumentace CUDA Toolkit obsahuje další podrobnosti o těchto knihovnách.
Ladění a profilování CUDA programů Ubuntu
Ladění a profilování jsou základními aspekty programování CUDA. Nástroje jako cuda-gdb a nvprof
vám může pomoci ladit vaše programy CUDA a analyzovat jejich výkon. Tyto nástroje jsou součástí sady nástrojů CUDA a mohou být neocenitelné při optimalizaci vašich programů CUDA.
Závěrečné myšlenky
Se sadou CUDA Toolkit nainstalovanou na vašem systému Ubuntu pomocí oficiálního úložiště APT společnosti NVIDIA můžete začít vyvíjet vysoce výkonné aplikace, které využívají sílu akcelerace GPU. Toto nastavení zajišťuje, že máte nejaktuálnější nástroje a knihovny pro vaše vývojové potřeby CUDA. Udržujte svou sadu nástrojů pravidelně aktualizovanou, abyste mohli využívat nejnovější vylepšení a optimalizace poskytované společností NVIDIA, což vám umožní posouvat hranice paralelního počítání na vašem systému Ubuntu.
Udělal 22.4.:
sudo apt autoremove cuda* nvidia* –purge
sudo apt install build-essential gcc dirmngr ca-certifikáty software-properties-common apt-transport-https dkms curl -y
curl -fSsL https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2204/x86_64/3bf863cc.pub | sudo gpg –drahý | sudo tee /usr/share/keyrings/nvidia-drivers.gpg > /dev/null 2>&1
echo 'deb [signed-by=/usr/share/keyrings/nvidia-drivers.gpg] https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2204/x86_64/ /' | sudo tee /etc/apt/sources.list.d/nvidia-drivers.list
sudo apt install nvidia-driver-535 cuda-drivers-535 cuda
Ale získejte:
~$ sudo apt install nvidia-driver-535 cuda-drivers-535 cuda
Čtení seznamů balíčků… Hotovo
Vytváření stromu závislostí… Hotovo
Čtení informací o stavu… Hotovo
Některé balíčky nelze nainstalovat. To může znamenat, že máte
požadoval nemožnou situaci nebo pokud používáte nestabilní
že některé požadované balíčky ještě nebyly vytvořeny
nebo byl přesunut z Příchozí.
K vyřešení situace mohou pomoci následující informace:
Následující balíčky mají nesplněné závislosti:
cuda-drivers-535 : Závisí: nvidia-kernel-source-535 (>= 535.183.06), ale nelze jej nainstalovat nebo
nvidia-kernel-open-535 (>= 535.183.06), ale nelze jej nainstalovat
nvidia-dkms-535 : Závisí: nvidia-kernel-source-535, ale nelze jej nainstalovat nebo
nvidia-kernel-open-535, ale nelze jej nainstalovat
nvidia-driver-535 : Závisí: nvidia-kernel-source-535 (= 535.183.06-0ubuntu1), ale nelze jej nainstalovat nebo
nvidia-kernel-open-535 (= 535.183.06-0ubuntu1), ale nelze jej nainstalovat
nvidia-driver-560-open : Závisí: libnvidia-gl-560 (= 560.35.03-0ubuntu1), ale nelze jej nainstalovat
Závisí: nvidia-dkms-560-open (= 560.35.03), ale nelze jej nainstalovat
Závisí: nvidia-kernel-common-560 (= 560.35.03), ale nelze jej nainstalovat
Závisí: libnvidia-compute-560 (= 560.35.03-0ubuntu1), ale nelze jej nainstalovat
Závisí: libnvidia-extra-560 (= 560.35.03-0ubuntu1), ale nelze ji nainstalovat
Závisí: nvidia-compute-utils-560 (= 560.35.03-0ubuntu1), ale nelze jej nainstalovat
Závisí: libnvidia-decode-560 (= 560.35.03-0ubuntu1), ale nelze jej nainstalovat
Závisí: libnvidia-encode-560 (= 560.35.03-0ubuntu1), ale nelze jej nainstalovat
Závisí: nvidia-utils-560 (= 560.35.03-0ubuntu1), ale nelze jej nainstalovat
Závisí: xserver-xorg-video-nvidia-560 (= 560.35.03-0ubuntu1), ale nelze jej nainstalovat
Závisí: libnvidia-cfg1-560 (= 560.35.03-0ubuntu1), ale nelze jej nainstalovat
Závisí: libnvidia-fbc1-560 (= 560.35.03-0ubuntu1), ale nelze jej nainstalovat
Doporučuje: libnvidia-compute-560:i386 (= 560.35.03-0ubuntu1)
Doporučuje: libnvidia-decode-560:i386 (= 560.35.03-0ubuntu1)
Doporučuje: libnvidia-encode-560:i386 (= 560.35.03-0ubuntu1)
Doporučuje: libnvidia-fbc1-560:i386 (= 560.35.03-0ubuntu1)
Doporučuje: libnvidia-gl-560:i386 (= 560.35.03-0ubuntu1)
E: Problémy nelze napravit, máte rozbité balíčky.
Zdá se, že balíčky pro ovladače NVIDIA 535 nemusí být dostupné ve vašem aktuálním úložišti. Chcete-li to ověřit, můžete zkusit vyhledat balíčky pomocí následujících příkazů:
apt-cache search nvidia-kernel-source
nebo
apt-cache search nvidia-kernel-source-535
To vám ukáže, zda jsou k dispozici potřebné balíčky. Pokud se nic neobjeví, může to znamenat, že ovladač 535 není v aktuální konfiguraci úložiště přítomen.
Pokud vím, ovladače NVIDIA 535 nejsou nastaveny tak, aby dosáhly konce životnosti (EOL) na Linuxu do června 2026, takže by měly být stále podporovány. Pokud balíčky nejsou k dispozici, může se jednat o problém s úložištěm nebo dočasnou závadu.
Dejte mi vědět, co jste našli, a v případě potřeby můžeme problém dále řešit!