Kolaborasi Alibaba Cloud dan MediaTek Hadirkan AI Generatif di Smartphone

Untuk mengimplementasikan model AI di perangkat genggam, kompatibilitas merupakan tantangan utama, terutama karena perbedaan dalam perangkat keras, perangkat lunak, dan protokol komunikasi.

Alibaba Cloud mengatakan bahwa mereka bekerja sama dengan MediaTek dalam beberapa area untuk mengatasi tantangan integrasi ini.

Termasuk dalam optimasi ukuran model, optimasi inferensi, dan penyimpanan untuk mencapai keseimbangan antara akurasi model, efektivitas biaya, dan efisiensi energi.

Dengan dukungan dari Dimensity 9300, versi model Qwen dengan parameter 1,8 miliar bisa mencapai kinerja terdepan di industri dan sanggup menggunakan kurang dari 30 persen CPU dan 2 GB RAM dalam proses inferensi AI sambil mencapai lebih dari 20 token per detik.

Konsumsi daya dalam proses inferensi kurang dari 3 watt, memberikan peningkatan kinerja dalam tugas AI tanpa mengorbankan efisiensi energi.

Untuk memastikan bahwa produsen ponsel pintar mengadopsi model AI di perangkat mereka, kedua perusahaan akan merilis paket pengembangan perangkat lunak bagi produsen dan pengembang ponsel pintar untuk mewujudkan inisiatif ini.

Solusi yang siap digunakan ini memungkinkan produsen ponsel pintar menyematkan fitur-fitur AI generatif pada perangkat mereka, mulai dari kontrol suara hingga asisten virtual.

Baca Juga: Alibaba Perkenalkan Tongyi Qianwen 2.0 dan Model AI Khusus Industri

Para produsen juga dapat melatih dan menyempurnakan model untuk fitur AI yang lebih canggih.

Kedua perusahaan juga akan bekerja sama untuk mengeksplorasi pembangunan agen AI yang dapat menavigasi antarmuka yang kompleks dan menjalankan tugas melintasi beberapa aplikasi, memanfaatkan kemampuan LLM dari Alibaba Cloud dan daya komputasi dari Dimensity 9300.

"Memfasilitasi implementasi AI generatif secara menyeluruh, serta pengembangan cepat dari aplikasi AI dan ekosistem agen AI, akan memberikan pengalaman produk yang lebih menarik bagi para pengguna," kata Dr. Yenchi Lee, Deputy General Manager di MediaTek Wireless Communications Business Unit.