Уровень доверия ИИ: Сеть Mira и ее решения для борьбы с предвзятостью и иллюзиями ИИ

Недавно была официально запущена публичная тестовая сеть Mira, проект которой нацелен на создание уровня доверия для искусственного интеллекта. Так почему же ИИ нужно доверять? Как Mira решает эту проблему?

При обсуждении ИИ люди часто больше сосредотачиваются на его мощных возможностях. Однако проблема "галлюцинаций" или предвзятости ИИ часто игнорируется. Так называемые "галлюцинации" ИИ - это, простыми словами, случаи, когда ИИ иногда "выдумывает" информацию, давая кажущиеся разумными, но на самом деле неточные объяснения. Например, если спросить ИИ, почему луна розовая, он может предоставить ряд объяснений, которые звучат разумно, но на самом деле неверны.

Появление "галлюцинаций" или предвзятости в ИИ связано с некоторыми текущими направлениями технологий ИИ. Например, генеративный ИИ обеспечивает последовательный и логичный вывод, предсказывая "наиболее вероятное" содержание, но этот метод иногда сложно проверить на достоверность. Кроме того, сами данные для обучения могут содержать ошибки, предвзятости или даже вымышленные материалы, что может повлиять на качество вывода ИИ. Иными словами, ИИ учится языковым паттернам человека, а не фактам.

Текущие механизмы генерации вероятностей и модели, основанные на данных, почти неизбежно приводят к возникновению иллюзий у ИИ. Хотя в области общего знания или развлекательного контента эта проблема может не привести к серьезным последствиям сразу, в таких областях, как медицина, право, авиация, финансы, где требуется высокая строгость, это может иметь значительное влияние. Поэтому решение проблемы иллюзий и предвзятости ИИ стало одной из основных задач в процессе развития ИИ.

Проект Mira как раз пытается решить эту проблему. Его цель состоит в создании уровня доверия к ИИ, сокращении предвзятости и иллюзий ИИ, повышении надежности ИИ. Так как же Mira достигает этой цели?

Ядро стратегии Mira заключается в валидации выходных данных ИИ за счет консенсуса нескольких моделей ИИ. Это по сути сеть валидации, использующая консенсус нескольких моделей ИИ для проверки надежности выходных данных ИИ. Что более важно, Mira применяет децентрализованный метод валидации консенсуса.

Ключевой аспект сети Mira заключается в децентрализованной проверке консенсуса. Это не только использует преимущества криптовалютной сферы, но и снижает предвзятость и иллюзии за счет коллективной модели валидации с несколькими моделями.

В области верификационной архитектуры протокол Mira поддерживает преобразование сложного контента в независимые верификационные заявления. Операторы узлов участвуют в верификации этих заявлений, а для обеспечения честности операторов узлов Mira использует механизм криптоэкономического поощрения/наказания. Разные AI модели и децентрализованные операторы узлов совместно участвуют, чтобы гарантировать надежность результатов верификации.

Сетевая архитектура Mira включает в себя преобразование контента, распределенную проверку и механизм консенсуса. Сначала система разбивает кандидаты на контент на различные проверяемые утверждения, затем распределяет их по узлам для проверки, и, наконец, обобщает результаты для достижения консенсуса. Чтобы защитить конфиденциальность клиентов, утверждения будут распределяться по различным узлам случайным образом в виде фрагментов.

Операторы узлов отвечают за работу модели валидатора, обработку заявок и подачу результатов валидации. Их мотивация участвовать в валидации исходит из возможности получения дохода. Этот доход возникает от ценности, создаваемой для клиентов, а именно, снижения уровня ошибок ИИ в ключевых областях. Чтобы предотвратить спекулятивное поведение узлов с произвольными ответами, узлы, которые постоянно отклоняются от консенсуса, будут лишены части залоговых токенов.

В целом, Mira предлагает новый подход к обеспечению надежности ИИ. Она строит децентрализованную сеть проверки консенсуса на основе нескольких моделей ИИ, что обеспечивает более высокую надежность ИИ-сервисов для клиентов, снижает предвзятость и иллюзии ИИ, отвечает на требования к более высокой точности и прецизионности. Короче говоря, Mira пытается создать уровень доверия к ИИ, что имеет важное значение для углубленного развития применения ИИ.

В настоящее время пользователи могут участвовать в публичной тестовой сети Mira через Klok (приложение для чат-ботов на основе LLM), испытывая проверенный результат AI и получая возможность зарабатывать баллы Mira. Это предоставляет пользователям интуитивно понятную возможность сравнить разницу в выходных данных AI до и после проверки, демонстрируя потенциал сети Mira в повышении надежности AI.