TensorFlow-ի տեղակայում¶

Այս հոդվածում

TensorFlow-ի տեղակայում Linux-ում

TensorFlow-ի գործարկում

TensorFlow-ի տեղակայման ստուգում

TensorFlow-ը մեքենայական ուսուցման և խորը նեյրոնային ցանցերի ուսուցման բաց աղբյուրով հարթակ է, որը մշակվել է Google-ի կողմից։ TensorFlow-ի միջոցով դուք կարող եք ստեղծել, ուսուցանել և օգտագործել բարդ նեյրոնային ցանցեր՝ օգտագործելով Python-ի հարմարավետ API-ն։

Այս հարթակը աջակցում է ինչպես ավանդական մեքենայական ուսուցման ալգորիթմներին, օրինակ՝ գծային և լոգիստիկ ռեգրեսիային, այնպես էլ ավելի առաջադեմ ճարտարապետություններին, ներառյալ կոնվոլյուցիոն նեյրոնային ցանցերը (Convolutional Neural Networks, CNN) և ռեկուրենտ նեյրոնային ցանցերը (Recurrent Neural Networks, RNN)։

TensorFlow-ի տեղակայում Linux-ում¶

Այս հրահանգը հարմար է հետևյալ օպերացիոն համակարգերի համար. Ubuntu 22.04, և ստուգված է հետևյալ Python տարբերակների համար. Python 3.10։

Նշում

Եթե պլանավորում եք օգտագործել GPU արագացում, խնդրում ենք տեղակայել NVIDIA դրայվերները և CUDA-ն՝ համաձայն այս հրահանգի։

Տեղակայեք Python-ը.
```
sudo apt install python3.10
```
Ubuntu 22.04-ում այս տարբերակը տեղակայված է ըստ լռելյայնի, ուստի մենք խորհուրդ չենք տալիս տեղակայել ավելի նոր տարբերակ։

TensorRT-ի համար համակարգային գրադարանների տեղակայում.

wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2204/x86_64/cuda-keyring_1.1-1_all.deb
sudo dpkg -i cuda-keyring_1.1-1_all.deb
sudo apt-get update
sudo apt-get install tensorrt

Ստեղծեք Python-ի վիրտուալ միջավայր.
```
python3 -m venv venv
```
Ակտիվացրեք վիրտուալ միջավայրը.
```
source venv/bin/activate
```
Հաջող ակտիվացումից հետո հրամանի տողը կներառի վիրտուալ միջավայրի անունը փակագծերում.
```
(venv) user@49069:~$
```
Նշում

Դուք կարող եք ստեղծել ցանկացած քանակությամբ վիրտուալ միջավայրեր և տեղակայել տարբեր գրադարաններ (ներառյալ միաժամանակ, սակայն երբեմն դա կարող է առաջացնել հակասություններ)։

TensorRT-ի համար կապերի (bindings) տեղակայում.

python3 -m pip install wheel
python3 -m pip install --pre --upgrade tensorrt

Տեղակայումը ստուգելու համար մենք կարող ենք կոնսոլում գործարկել Python-ը և կատարել հետևյալ սկրիպտը.

import tensorrt
print(tensorrt.__version__)
assert tensorrt.Builder(tensorrt.Logger())

Հաջող տեղակայման դեպքում ելքը կլինի հետևյալը.

(tensorflow) user@49069:~/gpu$ python
Python 3.10.12 (main, Nov 20 2023, 15:14:05) [GCC 11.4.0] on linux
Type "help", "copyright", "credits" or "license" for more information.
>>> import tensorrt
>>> print(tensorrt.__version__)
10.0.0b6
>>> assert tensorrt.Builder(tensorrt.Logger())
>>> import tensorrt_lean as trt
>>> print(trt.__version__)
10.0.0b6
>>> assert trt.Runtime(trt.Logger())
>>> import tensorrt_dispatch as trt
>>> print(trt.__version__)
10.0.0b6
>>> assert trt.Runtime(trt.Logger())
>>>

TensorRT 8.6.1 տարբերակի տեղակայում.

wget https://developer.nvidia.com/downloads/compute/machine-learning/tensorrt/secure/8.6.1/tars/TensorRT-8.6.1.6.Linux.x86_64-gnu.cuda-12.0.tar.gz
tar -xzvf TensorRT-8.6.1.6.Linux.x86_64-gnu.cuda-12.0.tar.gz

TensorFlow գրադարանի տեղակայում GPU աջակցությամբ.
```
pip install tensorflow[and-cuda]
```
Ելք վիրտուալ միջավայրից.
```
deactivate
```

Ստեղծեք TensorFlow-ը գործարկելու սկրիպտ.

echo '#!/bin/bash' > tensorflow.sh
echo 'source venv/bin/activate' >> tensorflow.sh
echo 'export CUDNN_PATH=$(dirname $(python -c "import nvidia.cudnn;print(nvidia.cudnn.__file__)"))' >> tensorflow.sh
echo 'export LD_LIBRARY_PATH=$CUDNN_PATH/lib:/usr/local/cuda/lib64' >> tensorflow.sh
echo 'export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:$HOME/TensorRT-8.6.1.6/lib' >> tensorflow.sh
chmod +x tensorflow.sh

TensorFlow-ի գործարկում¶

Վիրտուալ միջավայրում TensorFlow-ը գործարկելու համար՝ նշված գրադարանների փոփոխականներով՝ ձեր տնային հաշվի արմատական թղթապանակից, օգտագործեք հետևյալ հրամանը.

. tensorflow.sh

TensorFlow-ի տեղակայման ստուգում¶

Գրադարանի գործառույթների և GPU աջակցության ստուգման համար կոնսոլում գործարկեք հետևյալ Python ծրագիրը.

import tensorflow as tf
print(tf.reduce_sum(tf.random.normal([1000, 1000])))
print(tf.config.list_physical_devices('GPU'))

Հաջող տեղակայման դեպքում դուք կստանաք նմանատիպ ելք, որտեղ կցուցադրվի ձեր GPU-ի օգտագործումը։

(venv) user1@49069:~$ python
Python 3.10.12 (main, Nov 20 2023, 15:14:05) [GCC 11.4.0] on linux
Type "help", "copyright", "credits" or "license" for more information.
>>> import tensorflow as tf
nt(tf.config.list_physical_devices('GPU'))
2024-04-22 23:39:54.472502: I tensorflow/core/platform/cpu_feature_guard.cc:210] This TensorFlow binary is optimized to use available CPU instructions in performance-critical operations.
To enable the following instructions: AVX2 FMA, in other operations, rebuild TensorFlow with the appropriate compiler flags.
>>> print(tf.reduce_sum(tf.random.normal([1000, 1000])))
2024-04-22 23:39:55.810888: I tensorflow/core/common_runtime/gpu/gpu_device.cc:1928] Created device /job:localhost/replica:0/task:0/device:GPU:0 with 22282 MB memory:  -> device: 0, name: NVIDIA GeForce RTX 4090, pci bus id: 0000:07:00.0, compute capability: 8.9
tf.Tensor(332.5041, shape=(), dtype=float32)
>>> print(tf.config.list_physical_devices('GPU'))
[PhysicalDevice(name='/physical_device:GPU:0', device_type='GPU')]
>>>

Բացի այդ, դուք կարող եք ներբեռնել և գործարկել նեյրոնային ցանց ուսուցանելու փորձարկման Python սկրիպտը՝ 2c_nn_mnist_customtrain.py՝ այս GitHub պահոցից։

Կատարումն ավարտելուց հետո դուք պետք է ստանաք նմանատիպ ելք.

(venv) user1@49069:~$ python ./2c_nn_mnist_customtrain.py
2024-04-23 10:35:25.832754: I tensorflow/core/platform/cpu_feature_guard.cc:210] This TensorFlow binary is optimized to use available CPU instructions in performance-critical operations.
To enable the following instructions: AVX2 FMA, in other operations, rebuild TensorFlow with the appropriate compiler flags.
2024-04-23 10:35:28.404381: I tensorflow/core/common_runtime/gpu/gpu_device.cc:1928] Created device /job:localhost/replica:0/task:0/device:GPU:0 with 22282 MB memory:  -> device: 0, name: NVIDIA GeForce RTX 4090, pci bus id: 0000:07:00.0, compute capability: 8.9
WARNING: All log messages before absl::InitializeLog() is called are written to STDERR
I0000 00:00:1713861338.172126   21279 service.cc:145] XLA service 0x7f36a3bd2ec0 initialized for platform CUDA (this does not guarantee that XLA will be used). Devices:
I0000 00:00:1713861338.172187   21279 service.cc:153]   StreamExecutor device (0): NVIDIA GeForce RTX 4090, Compute Capability 8.9
2024-04-23 10:35:38.180648: I tensorflow/compiler/mlir/tensorflow/utils/dump_mlir_util.cc:268] disabling MLIR crash reproducer, set env var `MLIR_CRASH_REPRODUCER_DIRECTORY` to enable.
2024-04-23 10:35:38.207205: I external/local_xla/xla/stream_executor/cuda/cuda_dnn.cc:465] Loaded cuDNN version 8902
I0000 00:00:1713861338.355523   21279 device_compiler.h:188] Compiled cluster using XLA!  This line is logged at most once for the lifetime of the process.
1874/1875 |||||||||||||||||||||||||||||||| acc: 0.9022 time: 14.9 test-acc: 0.932 (error: 6.75%)
1874/1875 |||||||||||||||||||||||||||||||| acc: 0.9474 time: 4.74 test-acc: 0.953 (error: 4.71%)
1874/1875 |||||||||||||||||||||||||||||||| acc: 0.9628 time: 4.83 test-acc: 0.963 (error: 3.67%)
1874/1875 |||||||||||||||||||||||||||||||| acc: 0.9734 time: 4.86 test-acc: 0.968 (error: 3.25%)
1874/1875 |||||||||||||||||||||||||||||||| acc: 0.9798 time: 4.9 test-acc: 0.97 (error: 3.04%)