Configurarea unui antrenament, reglare fină și inferență a LLM cu NVIDIA GPU și CUDA

Domeniul inteligenței artificiale (IA) a cunoscut progrese remarcabile în ultimii ani, iar în centrul acestora se află combinația puternică a unităților de procesare grafică (GPU) și a platformei de calcul paralel.

Modele precum GPT, BERT și, mai recent, Llama, Mistral sunt capabile să înțeleagă și să genereze texte asemănătoare cu cele umane, cu o fluență și o coerență fără precedent. Cu toate acestea, antrenarea acestor modele necesită cantități uriașe de date și resurse computaționale, făcând GPU-urile și CUDA instrumente indispensabile în acest demers.

Ghidul cuprinzător vă va conduce prin procesul de configurare a unui NVIDIA GPU pe Ubuntu, acoperind instalarea componentelor software esențiale, cum ar fi driverul NVIDIA, Kitul de instrumente CUDA, cuDNN, PyTorch și multe altele.

Ridicarea cadrelor de lucru AI accelerate de CUDA

Învățarea profundă accelerată de GPU a fost alimentată de dezvoltarea cadrului popular de inteligență artificială care folosește CUDA pentru calcul eficient. Cadre precum TensorFlow, PyTorch și MXNet au suport încorporat pentru CUDA, permițând o integrare fără efort a accelerării GPU în fluxurile de lucru de învățare profundă.

Conform Studiului de performanță al produsului de învățare profundă NVIDIA Data Center, modelele de învățare profundă accelerate de CUDA pot atinge până la 100 de ori mai rapidă performanță în comparație cu implementările bazate pe CPU.

Tehnologia Multi-Instance GPU (MIG) a NVIDIA, introdusă odată cu arhitectura Ampere, permite divizarea unei singure GPU în multiple instanțe securizate, fiecare cu resurse dedicate. Această funcție permite o partajare eficientă a resurselor GPU între mai mulți utilizatori sau sarcini de lucru, maximizând utilizarea și reducând costurile totale.

Accelerarea inferenței LLM cu NVIDIA TensorRT

În timp ce GPU-urile au fost instrumentale în antrenarea LLM, inferența eficientă este la fel de crucială pentru implementarea acestor modele în medii de producție. NVIDIA TensorRT, un optimizator și runtime de învățare profundă de înaltă performanță, joacă un rol vital în accelerarea inferenței LLM pe GPU-urile activate de CUDA.

Conform benchmark-urilor NVIDIA, TensorRT poate oferi până la 8 ori mai rapidă inferență și 5 ori mai mică cost total de proprietate în comparație cu inferența bazată pe CPU pentru modele de limbaj mari, cum ar fi GPT-3.

Angajamentul NVIDIA față de inițiativele open-source a fost o forță motrice în spatele adoptării pe scară largă a CUDA în comunitatea de cercetare IA. Proiecte precum cuDNN, cuBLAS și NCCL sunt disponibile ca biblioteci open-source, permițând cercetătorilor și dezvoltatorilor să valorifice pe deplin potențialul CUDA pentru învățarea profundă.

Instalare

Atunci când se configurează dezvoltarea IA, utilizarea ultimelor drivere și biblioteci nu este întotdeauna cea mai bună alegere. De exemplu, în timp ce ultimul driver NVIDIA (545.xx) suportă CUDA 12.3, PyTorch și alte biblioteci nu pot suporta încă această versiune. Prin urmare, vom utiliza driverul 535.146.02 cu CUDA 12.2 pentru a asigura compatibilitatea.

Pași de instalare

1. Instalarea driverului NVIDIA

Mai întâi, identificați modelul dvs. de GPU. Pentru acest ghid, vom utiliza GPU-ul NVIDIA. Vizitați pagina de descărcare a driverului NVIDIA, selectați driverul adecvat pentru GPU-ul dvs. și notați versiunea driverului.

Pentru a verifica pachetele precompilate GPU pe Ubuntu, rulați:

sudo ubuntu-drivers list --gpgpu

Reporniți computerul și verificați instalarea:

nvidia-smi

2. Instalarea Kitului de instrumente CUDA

Kitul de instrumente CUDA oferă mediul de dezvoltare pentru crearea de aplicații cu accelerare GPU de înaltă performanță.

Pentru o configurare non-LLM/de învățare profundă, puteți utiliza:

sudo apt install nvidia-cuda-toolkit

Cu toate acestea, pentru a asigura compatibilitatea cu BitsAndBytes, vom urma pașii următori:

[code language="BASH"]

git clone https://github.com/TimDettmers/bitsandbytes.git
cd bitsandbytes/
bash install_cuda.sh 122 ~/local 1

Verificați instalarea:

~/local/cuda-12.2/bin/nvcc --version

Setați variabilele de mediu:

export CUDA_HOME=/home/roguser/local/cuda-12.2/
export LD_LIBRARY_PATH=/home/roguser/local/cuda-12.2/lib64
export BNB_CUDA_VERSION=122
export CUDA_VERSION=122

3. Instalarea cuDNN

Descărcați pachetul cuDNN de pe site-ul web al dezvoltatorilor NVIDIA. Instalați-l cu:

sudo apt install ./cudnn-local-repo-ubuntu2204-8.9.7.29_1.0-1_amd64.deb

Urmați instrucțiunile pentru a adăuga cheia:

sudo cp /var/cudnn-local-repo-ubuntu2204-8.9.7.29/cudnn-local-08A7D361-keyring.gpg /usr/share/keyrings/

Instalați bibliotecile cuDNN:

sudo apt update
sudo apt install libcudnn8 libcudnn8-dev libcudnn8-samples

4. Configurarea mediului virtual Python

Ubuntu 22.04 vine cu Python 3.10. Instalați venv:

sudo apt-get install python3-pip
sudo apt install python3.10-venv

Creați și activați mediul virtual:

cd
mkdir test-gpu
cd test-gpu
python3 -m venv venv
source venv/bin/activate

5. Instalarea BitsAndBytes din sursă

Navigați către directorul BitsAndBytes și construiți din sursă:

cd ~/bitsandbytes
CUDA_HOME=/home/roguser/local/cuda-12.2/ \
LD_LIBRARY_PATH=/home/roguser/local/cuda-12.2/lib64 \
BNB_CUDA_VERSION=122 \
CUDA_VERSION=122 \
make cuda12x

CUDA_HOME=/home/roguser/local/cuda-12.2/ \
LD_LIBRARY_PATH=/home/roguser/local/cuda-12.2/lib64 \
BNB_CUDA_VERSION=122 \
CUDA_VERSION=122 \
python setup.py install

6. Instalarea PyTorch

Instalați PyTorch cu următoarea comandă:

pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu121

7. Instalarea Hugging Face și Transformers

Instalați bibliotecile transformers și accelerate:

pip install transformers
pip install accelerate

Puterea procesării paralele

La baza lor, GPU-urile sunt procesori paraleli de înaltă performanță, proiectați pentru a gestiona mii de fire de execuție concurentă. Această arhitectură le face potrivite pentru sarcinile computaționale intensive implicate în antrenarea modelelor de învățare profundă, inclusiv LLM.
Accelerarea antrenamentului LLM cu GPU și CUDA.

Antrenarea modelelor de limbaj mari este o sarcină computațională solicitantă care necesită procesarea unor cantități uriașe de date text și efectuarea numeroaselor operații matriceale. GPU-urile, cu miile lor de nuclee și lățime de bandă mare a memoriei, sunt ideal potrivite pentru aceste sarcini. Prin valorificarea CUDA, dezvoltatorii pot optimiza codul pentru a profita de capacitățile de procesare paralelă ale GPU-urilor, reducând semnificativ timpul necesar pentru antrenarea LLM.

Biblioteci CUDA-accelerate pentru învățare profundă

În plus față de platforma CUDA însăși, NVIDIA și comunitatea open-source au dezvoltat o serie de biblioteci CUDA-accelerate care permit implementarea eficientă a modelelor de învățare profundă, inclusiv LLM. Aceste biblioteci oferă implementări optimizate ale operațiunilor comune, cum ar fi multiplicarea matricelor, convoluțiile și funcțiile de activare, permițând dezvoltatorilor să se concentreze asupra arhitecturii modelului și procesului de antrenare, mai degrabă decât asupra optimizării de nivel scăzut.

Una dintre aceste biblioteci este cuDNN (biblioteca de rețele neuronale profunde CUDA), care oferă implementări de înaltă calitate ale rutinelor standard utilizate în rețelele neuronale profunde. Prin valorificarea cuDNN, dezvoltatorii pot accelera semnificativ antrenarea și inferența modelelor, obținând câștiguri de performanță de până la mai multe ordine de mărime în comparație cu implementările bazate pe CPU.

Antrenament distribuit și multi-GPU pentru scalabilitate

Pe măsură ce LLM și modelele de învățare profundă continuă să crească în dimensiune și complexitate, cerințele computaționale pentru antrenarea acestor modele cresc și ele. Pentru a aborda această provocare, cercetătorii și dezvoltatorii s-au orientat către tehnici de antrenament multi-GPU și distribuit, care le permit să valorifice puterea de procesare combinată a mai multor GPU de pe mai multe mașini.

CUDA și bibliotecile asociate, cum ar fi NCCL (biblioteca de comunicații colective NVIDIA), oferă primitive de comunicare eficiente care permit transferul și sincronizarea datelor pe mai multe GPU, permițând antrenamentul distribuit la o scară fără precedent.

Implementarea modelelor de învățare profundă cu CUDA

În timp ce GPU-urile și CUDA au fost utilizate în principal pentru antrenarea modelelor de învățare profundă, ele sunt la fel de importante pentru implementarea și inferența eficientă. Pe măsură ce modelele de învățare profundă devin din ce în ce mai complexe și consumatoare de resurse, accelerarea GPU este esențială pentru obținerea performanței în timp real în mediile de producție.

NVIDIA TensorRT este un optimizator și runtime de învățare profundă de înaltă performanță care oferă inferență de joasă latență și înaltă performanță pe GPU-urile activate de CUDA. TensorRT poate optimiza și accelera modele antrenate în cadre precum TensorFlow, PyTorch și MXNet, permițând implementarea eficientă pe diverse platforme, de la sisteme înglobate la centre de date.

Concluzie

Combinația de GPU și CUDA a fost instrumentală în impulsionează progresele în modelele de limbaj mari, viziunea computerizată, recunoașterea vorbirii și diverse alte domenii ale învățării profunde. Prin valorificarea capacităților de procesare paralelă ale GPU-urilor și a bibliotecilor optimizate oferite de CUDA, cercetătorii și dezvoltatorii pot antrena și implementa modele din ce în ce mai complexe cu eficiență ridicată.

Pe măsură ce domeniul IA continuă să evolueze, importanța GPU-urilor și a CUDA va crește și mai mult. Cu hardware și mai puternic și optimizări software, putem aștepta să vedem progrese suplimentare în dezvoltarea și implementarea sistemelor IA, împingând limitele a ceea ce este posibil.