Meta Rilis Model AI Llama yang Lebih Ringan untuk Ponsel Android Hemat Memori

AKURAT.CO Meta telah memperkenalkan model AI Llama yang lebih kecil dan ringan, dirancang untuk berjalan di ponsel pintar dan tablet.

Langkah ini dicapai melalui kolaborasi dengan MediaTek dan Qualcomm, sehingga model AI ini dapat diintegrasikan pada CPU ARM yang banyak digunakan di perangkat Android.

Dengan menggunakan teknik kuantisasi, Meta mampu mengurangi ukuran model Llama, yang kini berjalan lebih cepat dan efisien tanpa memerlukan banyak memori.

Meta menjelaskan bahwa model yang dikembangkan, Llama 3.2 dengan ukuran 1B dan 3B, menawarkan kinerja hingga 4 kali lebih cepat, mengurangi ukuran hingga 56 persen dan penggunaan memori hingga 41 persen dibandingkan versi sebelumnya.

Model ini telah diuji pada ponsel seperti OnePlus 12 dan Samsung Galaxy S-series, menunjukkan waktu proses yang lebih cepat dan respons yang lebih baik.

Pengembangan ini membuat model AI Llama beroperasi langsung di perangkat pengguna, tanpa memerlukan pemrosesan cloud.

Dikutip dari laman resmi Meta, Senin (28/10/2024), hal ini memberi manfaat seperti peningkatan privasi, latensi rendah dan pengalaman AI yang lebih real-time.

Selain itu, pendekatan ini membuat pengguna di wilayah dengan infrastruktur jaringan terbatas untuk tetap menikmati fitur AI.

Meta juga melihat peluang besar bagi pengembang untuk mengintegrasikan model ini dalam berbagai aplikasi, mendorong ekosistem AI di perangkat seluler.

Dukungan untuk chip MediaTek dan Qualcomm menjadikan model Llama kompatibel dengan banyak perangkat Android, membuka akses yang lebih luas terhadap teknologi AI yang efisien dan hemat daya.