Ponsel cerdas Android mendatang dapat memiliki chatbot seperti ChatGPT tanpa perlu Cloud

Techno.id - Chipset Qualcomm memberi daya pada banyak ponsel cerdas dan tablet Android, serta beberapa PC Windows. Belum lama ini, Qualcomm mengungkapkan beberapa kemajuan yang dapat membuat ponsel cerdas Android berikutnya akan memiliki chatbot lokal seperti ChatGPT atau generator gambar, tanpa memerlukan server eksternal atau langganan berbayar seperti Cloud.

Qualcomm juga mengumumkan sejumlah inovasi termasuk Qualcomm AI Hub yang memberi pengembang aplikasi akses ke model AI yang dioptimalkan, serta modem baru 5G bertenaga AI. Qualcomm juga membahas teknologi untuk menjalankan large language model (LLM) di ponsel Android dengan chip Snapdragon Qualcomm, yang berpotensi memungkinkan lebih banyak tugas AI dijalankan secara lokal di smartphone, daripada menggunakan layanan eksternal seperti ChatGPT, Microsoft Copilot, atau Galaxy AI.

foto: qualcomm

Ada keuntungan privasi dan kegunaan dari pendekatan ini, kamu tidak memerlukan server eksternal untuk memproses respons dan semua data tetap ada di perangkat kamu. Dalam siaran pers, Qualcomm mengatakan memiliki LMM pertama di dunia yang berjalan di smartphone Android, tetapi tidak menyebutkan perangkat keras yang digunakan. Ditengarai ponsel tersebut dijalankan dengan chip Snapdragon 8 Gen 3 terbaru Qualcomm.

Qualcomm menggambarkan demo tersebut sebagai LMM parameter 7+ miliar yang dapat menerima berbagai jenis input data, termasuk teks dan gambar, dan menghasilkan percakapan multi putaran dengan asisten AI tentang gambar yang berjalan di smartphone Android untuk pertama kalinya.

Qualcomm juga memamerkan versi Stable Diffusion yang dimodifikasi, generator gambar AI yang popular, yang berjalan di ponsel Android.

foto: qualcomm

Stable Diffusion berjalan dalam mode Adaptasi Peringkat Rendah (LoRa), yang mengurangi ukuran data pelatihan sambil tetap menawarkan kualitas dan kinerja yang layak. Pengaturan ini tidak akan berfungsi sebaik Stable Diffusion pada kartu grafis desktop lengkap atau server GPU jarak jauh. Qualcomm menguji demo Stable Diffusion lainnya di ponsel Android pada tahun lalu yang mampu menghasilkan gambar 512x512 dalam waktu kurang dari 15 detik.

Demo ini lebih merupakan tolok ukur teknis untuk perangkat keras Qualcomm daripada yang lainnya. Ada kemungkinan Qualcomm membagikan karyanya pada AI Hub barunya, di mana pengembang lain dapat menggunakannya di aplikasi ponsel dan tablet mereka sendiri.

Jadi ke depan diprediksi pengguna akan memiliki asisten seperti ChatGPT di ponsel Android tanpa persyaratan cloud. Teknologi ini juga kabarnya sedang dikerjakan Apple untuk iPhone.