Qualcomm Aimet Efficiency Toolkit دستاويزي هدايتون

KBA-231226181840

1. سيٽ اپ ماحول

1.1. انسٽال ڪريو Nvidia ڊرائيور ۽ CUDA

1.2. انسٽال ڪريو لاڳاپيل پٿون لائبريري

python3 -m پائپ انسٽال ڪريو-اپ گريڊ-نظر انداز-نصب ٿيل پائپ
python3 -m pip install-ignore-installed gdown
python3 -m pip install -ignore-installed opencv-python
python3 -m پائپ انسٽال ڪريو-ignore-installed torch==1.9.1+cu111 torchvision==0.10.1+cu111 torchaudio==0.9.1 -f https://download.pytorch.org/whl/torch_stable.html
python3 -m pip install-ignore-installed jax
python3 -m pip install-ignore-install ftfy
python3 -m pip install-ignore-installed torchinfo
python3 -m پائپ انسٽال -ignore-installed https://github.com/quic/aimet/releases/download/1.25.0/AimetCommon-torch_gpu_1.25.0-cp38-cp38-linux_x86_64.whl
python3 -m پائپ انسٽال -ignore-installed https://github.com/quic/aimet/releases/download/1.25.0/AimetTorch-torch_gpu_1.25.0-cp38-cp38-linux_x86_64.whl
python3 -m pip install -ignore-installed numpy==1.21.6
python3 -m pip install -ignore-installed psutil

1.3. ڪلون ايمٽ-ماڊل-زو

git کلون https://github.com/quic/aimet-model-zoo.git
سي ڊي ايمٽ-ماڊل-زو
git checkout d09d2b0404d10f71a7640a87e9d5e5257b028802
برآمد PYTHONPATH=${PYTHONPATH}:${PWD}

1.4. ڊائون لوڊ ڪريو Set14

wget https://uofi.box.com/shared/static/igsnfieh4lz68l926l8xbklwsnnk8we9.zip
unzip igsnfieh4lz68l926l8xbklwsnnk8we9.zip

1.5. تبديل ڪريو لائين 39 aimet-model-zoo/aimet_zoo_torch/quicksrnet/dataloader/utils.py

تبديلي
glob.glob ۾ img_path لاءِ(os.path.join(test_images_dir, “*”)):
جي طرف
glob.glob ۾ img_path لاءِ(os.path.join(test_images_dir, “*_HR.*”)):

1.6. تشخيص هلائڻ.

# YOURPATH/aimet-model-run جي تحت هلائي
# Quicksrnet_small_2x_w8a8 لاءِ
python3 aimet_zoo_torch/quicksrnet/evaluators/quicksrnet_quanteval.py \
-model-config quicksrnet_small_2x_w8a8 \
ڊيٽا سيٽ رستو ../Set14/image_SRF_4

# Quicksrnet_small_4x_w8a8 لاءِ
python3 aimet_zoo_torch/quicksrnet/evaluators/quicksrnet_quanteval.py \
-model-config quicksrnet_small_4x_w8a8 \
ڊيٽا سيٽ رستو ../Set14/image_SRF_4

# Quicksrnet_medium_2x_w8a8 لاءِ
python3 aimet_zoo_torch/quicksrnet/evaluators/quicksrnet_quanteval.py \
-model-config quicksrnet_medium_2x_w8a8 \
ڊيٽا سيٽ رستو ../Set14/image_SRF_4

# Quicksrnet_medium_4x_w8a8 لاءِ
python3 aimet_zoo_torch/quicksrnet/evaluators/quicksrnet_quanteval.py \
-model-config quicksrnet_medium_4x_w8a8 \
ڊيٽا سيٽ رستو ../Set14/image_SRF_4

فرض ڪريو توھان حاصل ڪندا PSNRvalue for the aimetsimulated model. توھان QuickSRNet جي مختلف سائزن لاءِ ماڊل ترتيب تبديل ڪري سگھو ٿا، ھي اختيار آھي underaimet-modelzoo/aimet_zoo_torch/quicksrnet/model/model_cards/.

2 پيچ شامل ڪريو

2.1. کوليو "ايڪسپورٽ ڏانهن ONNX مرحلن REVISED.docx"

2.2. گٽ ڪمٽ آئي ڊي کي ڇڏي ڏيو

2.3. سيڪشن 1 ڪوڊ

مڪمل 1. ڪوڊ شامل ڪريو آخري لائين ھيٺ (لائن 366 کان پوء) aimet-model-zoo/aimet_zoo_torch/quicksrnet/model/models.py

2.4. سيڪشن 2 ۽ 3 ڪوڊ

شامل ڪريو سڄو 2، 3 ڪوڊ هيٺ لائين 93 aimet-model-zoo/aimet_zoo_torch/quicksrnet/evaluators/quicksrnet_quanteval.py

2.5. فنڪشن load_model ۾ اهم پيرا ميٽر

ماڊل = لوڊ_موڊل (MODEL_PATH_INT8,

MODEL_NAME،
MODEL_ARGS.get(MODEL_NAME).get(MODEL_CONFIG),
use_quant_sim_model=سچو،
encoding_path=ENCODING_PATH،
quantsim_config_path=CONFIG_PATH،
calibration_data=IMAGES_LR،
use_cuda = سچ،
before_quantization = سچ،
convert_to_dcr=سچو)

MODEL_PATH_INT8 = aimet_zoo_torch/quicksrnet/model/weights/quicksrnet_small_2x_w8a8/pre_opt_weights
MODEL_NAME = QuickSRNetSmall
MODEL_ARGS.get(MODEL_NAME).get(MODEL_CONFIG) = {'scaling_factor': 2}
ENCODING_PATH = aimet_zoo_torch/quicksrnet/model/weights/quicksrnet_small_2x_w8a8/adaround_encodings
CONFIG_PATH = aimet_zoo_torch/quicksrnet/model/weights/quicksrnet_small_2x_w8a8/aimet_config

مھرباني ڪري QuickSRNet جي مختلف سائيز لاءِ متغير تبديل ڪريو

2.6 ماڊل سائيز جي تبديلي

1. "input_shape" aimet-model-zoo/aimet_zoo_torch/quicksrnet/model/model_cards/*.json ۾
2. اندر فنڪشن load_model(…) aimet-model-zoo/aimet_zoo_torch/quicksrnet/model/inference.py ۾
3. پيراميٽر اندر فنڪشن Export_to_onnx(…, input_height, input_width) کان "ايڪپورٽ to ONNX مرحلا REVISED.docx"

2.7 ري-رن 1.6 ٻيهر او اين اينڪس ماڊل برآمد ڪرڻ لاء

3. SNPE ۾ تبديل ڪريو

3.1. تبديل ڪريو

${SNPE_ROOT}/bin/x86_64-linux-clang/snpe-onnx-to-dlc \
-input_network model.onnx \
-quantization_overrides ./model.encodings

3.2. (اختياري) صرف quantized DLC ڪڍيو

(اختياري) snpe-dlc-quant -input_dlc model.dlc -float_fallback -override_params

3.3. (اهم) ONNX I/O NCHW جي ترتيب ۾ آهي؛ تبديل ٿيل ڊي ايل سي ترتيب ۾ آهي NHWC

دستاويز / وسيلا

Qualcomm Aimet Efficiency Toolkit Documentation [pdf] هدايتون quicksrnet_small_2x_w8a8, quicksrnet_small_4x_w8a8, quicksrnet_medium_2x_w8a8, quicksrnet_medium_4x_w8a8, Aimet Efficiency Toolkit Documentation, Efficiency Toolkit Documentation, Toolkit Documentation, Toolkit

حوالو

• استعمال ڪندڙ دستي