HAMP‑LIC: Mengoptimalkan Kompresi Gambar Berbasis Pembelajaran dengan Quantisasi Post‑Training Hessian‑Aware

Tantangan dalam Kompresi Gambar Berbasis Pembelajaran

Model kompresi gambar yang dilatih secara mendalam (LIC) telah menunjukkan performa rate‑distortion yang kuat, namun mereka tetap menghadapi dua masalah utama ketika diterapkan pada perangkat keras heterogen. Pertama, kompleksitas komputasi yang tinggi membuat proses encoding dan decoding menjadi lambat, terutama pada edge device. Kedua, ketika model di‑quantize ke presisi tetap, perbedaan sensitivitas tiap layer menyebabkan kesalahan rekonstruksi yang signifikan, sehingga menghasilkan perbedaan kualitas antara platform yang berbeda. Akibatnya, banyak organisasi menghindari penggunaan LIC pada produksi karena ketidakpastian kualitas dan efisiensi. Penggunaan model LIC pada aplikasi mobile, kamera digital, dan streaming video menuntut solusi yang dapat menyeimbangkan kualitas visual dengan keterbatasan sumber daya.

Pendekatan HAMP-LIC: Konsep Dasar

HAMP‑LIC (Hessian‑Aware Mixed‑Precision Post‑Training Quantization for Learned Image Compression) dirancang untuk mengatasi dua masalah tersebut sekaligus. Metode ini memanfaatkan informasi Hessian—turunan kedua dari fungsi loss—untuk menilai sensitivitas setiap blok jaringan. Dengan demikian, HAMP‑LIC dapat mengalokasikan presisi yang lebih tinggi pada blok yang sangat mempengaruhi kualitas rekonstruksi, sementara blok yang kurang penting dapat diperkecil tanpa menimbulkan degradasi yang besar. Pendekatan ini berbeda dengan quantisasi tetap yang mengasumsikan semua layer memiliki sensitivitas yang sama.

Empat Tahapan Optimasi HAMP-LIC

Menggunakan jejak Hessian, HAMP‑LIC menghitung kontribusi setiap blok terhadap perubahan loss. Ini memberikan gambaran second‑order importance yang lebih akurat dibandingkan metode berbasis gradien pertama.

Sensitivitas awal disesuaikan dengan mempertimbangkan distorsi kuantisasi dan performa rate‑distortion secara bersamaan. Modul ini memastikan bahwa alokasi presisi tetap sejalan dengan tujuan akhir kompresi.

Berdasarkan profil sensitivitas yang telah disempurnakan, algoritma menugaskan bit width ke setiap blok untuk menyeimbangkan efisiensi penyimpanan dan kualitas rekonstruksi.

Sebuah set kalibrasi kecil digunakan untuk menyesuaikan output setiap blok, sehingga mengurangi kesalahan kuantisasi yang tersisa. Langkah ini penting untuk menghilangkan perbedaan encoding‑decoding antar platform.

Dampak Praktis pada Perangkat Edge

Implementasi HAMP‑LIC memungkinkan kompresi model yang signifikan tanpa menimbulkan kehilangan BD‑rate yang besar. Angka ini menunjukkan bahwa model dapat diperkecil secara signifikan sambil mempertahankan kualitas visual yang tinggi. Karena metode ini bersifat post‑training, tidak memerlukan retraining, sehingga cocok untuk pipeline produksi yang sudah mapan. Penggunaan set kalibrasi kecil juga meminimalkan overhead data tambahan, sehingga cocok untuk perangkat dengan kapasitas penyimpanan terbatas. Metode ini juga membantu mengurangi kebutuhan bandwidth karena ukuran file yang lebih kecil.

Perbandingan dengan Metode PTQ Lainnya

HAMP‑LIC secara konsisten mengungguli metode PTQ tetap maupun mixed‑precision yang ada di berbagai dataset. Keunggulan utamanya terletak pada penggunaan Hessian trace, yang memberikan sensitivitas yang lebih tepat, serta pada modul refinement tugas yang menyeimbangkan distorsi dan rate‑distortion. Selain itu, HAMP‑LIC secara eksplisit menghilangkan kesalahan encoding‑decoding lintas platform, masalah yang sering muncul pada metode lain. Hasil ini dapat dilihat pada model Minnen2018 dan Cheng2020, dua arsitektur LIC yang sering digunakan dalam penelitian. Keunggulan ini membuat HAMP‑LIC menjadi pilihan yang menarik bagi penyedia layanan yang ingin mengoptimalkan kualitas gambar tanpa meningkatkan biaya infrastruktur.

Kesimpulan dan Implikasi Masa Depan

HAMP‑LIC menandai langkah penting dalam mempersiapkan LIC untuk aplikasi edge. Dengan menggabungkan analisis Hessian, alokasi presisi adaptif, dan kalibrasi blok, metode ini menawarkan solusi praktis untuk mengurangi ukuran model dan kompleksitas komputasi tanpa mengorbankan kualitas. Bagi pengembang yang ingin menerapkan LIC pada perangkat heterogen, HAMP‑LIC menyediakan kerangka kerja yang dapat diintegrasikan ke pipeline yang sudah ada. Untuk masa depan, penelitian lebih lanjut dapat mengeksplorasi otomatisasi proses kalibrasi dan penerapan pada model generatif lain.

Gaionix documentation