PrismML Luncurkan LLM Kecil untuk Kacamata Pintar Berbasis Qualcomm

PrismML, laboratorium AI yang didirikan oleh peneliti Caltech, telah mengembangkan model bahasa kecil untuk kacamata pintar yang menggunakan chip Snapdragon dari Qualcomm. Pada acara Snapdragon Summit, Qualcomm memperkenalkan model Bonsai LLM 1-bit dari PrismML, yang dapat dijalankan secara lokal di kacamata pintar berbasis platform Snapdragon AR1 Gen 1. Model ini memiliki 2 miliar parameter yang dioptimalkan untuk penglihatan dan bahasa, memungkinkan pengguna untuk bertanya tentang objek yang mereka lihat secara real-time. PrismML bertujuan untuk menciptakan AI dengan bobot terbuka yang dapat berjalan di perangkat dan memanfaatkan daya komputasi yang ada, sebagai alternatif dari ketergantungan pada laboratorium AI komersial yang mengandalkan privasi dan kebutuhan komputasi yang tinggi. Namun, hingga saat ini, belum ada pengumuman mengenai kacamata pintar yang menggunakan teknologi PrismML.