Lapisan Kepercayaan AI: Jaringan Mira dan Solusinya untuk Mengatasi Bias dan Ilusi AI

Baru-baru ini, jaringan uji publik Mira resmi diluncurkan, proyek ini bertujuan untuk membangun lapisan kepercayaan untuk kecerdasan buatan. Jadi, mengapa AI perlu dipercaya? Bagaimana Mira menyelesaikan masalah ini?

Saat membahas AI, orang sering kali lebih fokus pada kemampuannya yang luar biasa. Namun, masalah "ilusi" atau bias yang ada dalam AI sering diabaikan. Apa yang disebut "ilusi" AI, secara sederhana, adalah bahwa AI kadang-kadang "mengarang" informasi, memberikan penjelasan yang tampak masuk akal tetapi sebenarnya tidak akurat. Misalnya, jika ditanya mengapa bulan berwarna merah muda, ia mungkin memberikan serangkaian penjelasan yang terdengar masuk akal tetapi sebenarnya tidak benar.

Munculnya "ilusi" atau bias pada AI terkait dengan beberapa jalur teknologi AI saat ini. Misalnya, AI generatif menghasilkan keluaran yang koheren dan masuk akal dengan memprediksi konten yang "paling mungkin", tetapi metode ini kadang-kadang sulit untuk memverifikasi keasliannya. Selain itu, data pelatihan itu sendiri mungkin mengandung kesalahan, bias, atau bahkan konten fiksi, yang semuanya dapat memengaruhi kualitas keluaran AI. Dengan kata lain, AI mempelajari pola bahasa manusia, bukan fakta itu sendiri.

Mekanisme generasi probabilitas saat ini dan model berbasis data hampir tidak dapat dihindari menyebabkan AI menghasilkan ilusi. Meskipun dalam pengetahuan umum atau konten hiburan, masalah ini mungkin tidak segera menyebabkan konsekuensi serius, di bidang-bidang yang memerlukan ketelitian tinggi seperti medis, hukum, penerbangan, dan keuangan, hal ini dapat memiliki dampak yang signifikan. Oleh karena itu, mengatasi masalah ilusi dan bias AI menjadi salah satu tantangan inti dalam proses pengembangan AI.

Proyek Mira berusaha untuk menyelesaikan masalah ini. Tujuannya adalah untuk membangun lapisan kepercayaan AI, mengurangi bias dan ilusi AI, serta meningkatkan keandalan AI. Lalu, bagaimana Mira mencapai tujuan ini?

Strategi inti Mira adalah untuk memvalidasi output AI melalui konsensus dari berbagai model AI. Ini pada dasarnya adalah jaringan validasi yang memanfaatkan konsensus dari beberapa model AI untuk memverifikasi keandalan output AI. Yang lebih penting, Mira mengadopsi metode validasi konsensus yang terdesentralisasi.

Kunci dari jaringan Mira terletak pada verifikasi konsensus yang terdesentralisasi. Ini tidak hanya memanfaatkan keunggulan di bidang kripto, tetapi juga mengurangi bias dan ilusi melalui model verifikasi kolektif yang berkolaborasi.

Dalam hal arsitektur verifikasi, protokol Mira mendukung konversi konten kompleks menjadi pernyataan verifikasi independen. Operator node terlibat dalam memverifikasi pernyataan ini, dan untuk memastikan kejujuran operator node, Mira mengadopsi mekanisme insentif/hukuman ekonomi kripto. Berbagai model AI dan operator node terdesentralisasi berpartisipasi bersama untuk menjamin keandalan hasil verifikasi.

Arsitektur jaringan Mira mencakup konversi konten, verifikasi terdistribusi, dan mekanisme konsensus. Pertama, sistem akan memecah konten kandidat menjadi berbagai pernyataan yang dapat diverifikasi, kemudian mendistribusikannya ke node untuk diverifikasi, dan akhirnya mengumpulkan hasil untuk mencapai konsensus. Untuk melindungi privasi pelanggan, pernyataan akan didistribusikan ke berbagai node dengan cara pemotongan acak.

Operator node bertanggung jawab untuk menjalankan model validator, memproses pernyataan dan mengirimkan hasil verifikasi. Motivasi mereka untuk terlibat dalam verifikasi berasal dari potensi keuntungan yang bisa diperoleh. Keuntungan ini berasal dari nilai yang diciptakan untuk klien, yaitu mengurangi tingkat kesalahan AI di bidang-bidang kritis. Untuk mencegah perilaku spekulatif dari respons acak node, node yang terus-menerus menyimpang dari konsensus akan dikenakan pemotongan token yang dipertaruhkan.

Secara keseluruhan, Mira memberikan pendekatan baru untuk mencapai keandalan AI. Ini membangun jaringan verifikasi konsensus terdesentralisasi di atas berbagai model AI, membawa keandalan yang lebih tinggi untuk layanan AI pelanggan, mengurangi bias dan halusinasi AI, serta memenuhi kebutuhan akan akurasi dan presisi yang lebih tinggi. Singkatnya, Mira sedang berusaha membangun lapisan kepercayaan untuk AI, yang memiliki signifikansi penting dalam mendorong perkembangan mendalam aplikasi AI.

Saat ini, pengguna dapat berpartisipasi dalam jaringan pengujian publik Mira melalui Klok (aplikasi obrolan LLM berbasis Mira), mengalami keluaran AI yang telah diverifikasi, dan memiliki kesempatan untuk mendapatkan poin Mira. Ini memberikan pengguna kesempatan untuk secara intuitif membandingkan perbedaan keluaran AI sebelum dan sesudah verifikasi, menunjukkan potensi jaringan Mira dalam meningkatkan keandalan AI.