Шар довіри AI: мережа Mira та її рішення для подолання упередженості та ілюзій AI

Нещодавно було офіційно запущено публічну тестову мережу Mira, проект, спрямований на побудову рівня довіри для штучного інтелекту. Отже, чому AI потребує довіри? Як Mira вирішує цю проблему?

При обговоренні ШІ люди зазвичай більше зосереджуються на його потужних можливостях. Однак проблема "ілюзій" або упереджень, що існують у ШІ, часто ігнорується. Що стосується "ілюзій" ШІ, простими словами, це те, що ШІ іноді може "вигадувати" інформацію, надаючи здавалося б обґрунтовані, але насправді неточні пояснення. Наприклад, якщо запитати ШІ, чому місяць рожевий, воно може надати ряд пояснень, які звучать розумно, але насправді є неправильними.

Поява "галюцинацій" або упереджень у ШІ пов'язана з деякими поточними технологічними шляхами ШІ. Наприклад, генеративний ШІ досягає зв'язного та розумного виходу, прогнозуючи "найімовірніший" вміст, але цей підхід іноді важко перевірити на достовірність. Крім того, дані для навчання можуть містити помилки, упередження або навіть вигаданий вміст, що все це впливає на якість виходу ШІ. Іншими словами, ШІ вчиться мовним патернам людей, а не самим фактам.

Сучасні механізми генерації ймовірностей та дані, що використовуються для навчання, майже неминуче призводять до того, що ШІ створює ілюзії. Хоча в загальних знаннях або розважальному контенті ця проблема може не призвести до серйозних наслідків, у таких сферах, як медицина, право, авіація, фінанси, де потрібна висока точність, вона може мати значний вплив. Отже, вирішення проблеми ілюзій та упереджень у ШІ стало одним з основних викликів у процесі розвитку ШІ.

Проект Mira намагається вирішити цю проблему. Його мета - створити рівень довіри для ШІ, зменшити упередженість і ілюзії ШІ, підвищити надійність ШІ. Отже, як Mira реалізує цю мету?

Основна стратегія Mira полягає в перевірці виходу AI через консенсус кількох AI-моделей. Це по суті є мережею перевірки, яка використовує консенсус кількох AI-моделей для перевірки надійності виходу AI. Що більш важливо, Mira використовує децентралізований метод перевірки консенсусу.

Ключовим аспектом мережі Mira є децентралізована верифікація консенсусу. Це не лише використовує переваги криптографічної сфери, але й завдяки колективній моделі верифікації з багатьма моделями зменшує упередження та ілюзії.

У контексті верифікаційної архітектури протокол Mira підтримує перетворення складного контенту в незалежні верифікаційні заяви. Оператори вузлів беруть участь у верифікації цих заяв, а для забезпечення чесності операторів вузлів Mira використовує механізм криптоекономічних стимулів/покарань. Різні AI-моделі та децентралізовані оператори вузлів спільно беруть участь для забезпечення надійності результатів верифікації.

Мережна архітектура Mira включає в себе перетворення вмісту, розподілену верифікацію та механізм консенсусу. По-перше, система розбиває кандидатний вміст на різні верифіковані заяви, які потім розподіляються між вузлами для верифікації, а зрештою результати узагальнюються для досягнення консенсусу. Щоб захистити конфіденційність клієнтів, заяви будуть розподілені між різними вузлами у випадковому фрагментованому вигляді.

Оператори вузлів відповідають за запуск моделей валідації, обробку заявок та подачу результатів валідації. Їхня мотивація до участі у валідації походить від можливості отримання прибутку. Ці прибутки виникають від створеної для клієнтів вартості, а саме зниження кількості помилок ШІ в критичних сферах. Щоб запобігти спекуляціям, пов'язаним з випадковими відповідями вузлів, вузли, які постійно відхиляються від консенсусу, будуть позбавлені частини своїх стейкованих токенів.

В цілому, Mira пропонує новий підхід до забезпечення надійності штучного інтелекту. Вона будує децентралізовану мережу верифікації консенсусу на основі кількох AI моделей, що приносить вищу надійність для AI послуг клієнтів, знижує упередженість і ілюзії AI, задовольняючи потреби в більшій точності та точності. Іншими словами, Mira намагається створити шар довіри для AI, що має важливе значення для подальшого розвитку застосувань AI.

Наразі користувачі можуть брати участь у публічному тестуванні Mira через Klok (додаток для чату на основі LLM від Mira), отримуючи перевірені результати штучного інтелекту та маючи можливість заробити бали Mira. Це надає користувачам інтуїтивну можливість порівняти різницю в результатах штучного інтелекту до та після перевірки, демонструючи потенціал мережі Mira у підвищенні надійності штучного інтелекту.