Сооснователь Ethereum Виталик Бутерин предостерег криптосообщество от использования искусственного интеллекта при управлени проектами. По его словам, полагаться на алгоритмы AI в распределении средств и принятии решений небезопасно. Дело в том, что злоумышленники могут воспользоваться уязвимостями, что выльется в существенные потери пользователей.
Данное заявление прозвучало после публикации материала японского разработчика Эйто Миямуры. Он продемонстрировал, что обновление новое обновление ChatGPT, представленное в этом месяце, открывает возможности для хакерских атак. С помощью протокола Model Context Protocol модель теперь может работать как агент, взаимодействуя с другими сервисами.
По словам Миямуры, потенциальный злоумышленник способен отправить жертве приглашение через календарь, со встроенной подсказкой. Если пользователь попросит ChatGPT проверить уведомление, система начинает действовать уже в интересах атакующего. Это потенциально позволяет получить доступ конфиденциальным данным.
Бутерин в свою очередь подметил, что многие инвесторы и проекты изучают возможности передачи AI-алгоритмам управление торговлей и даже распределением финансовых ресурсов в фондах. Однако Бутерин назвал такой путь «наивным управлением» и предложил альтернативу в лице информационно-финансовой концепции.
Суть модели заключается в формировании открытого рынка, где участники представляют свои алгоритмы, а далее они проходят выборочную проверку. Ревизия может быть инициирована любым пользователем и ее итогу оцениваются группой специалистов. По мнению Бутерина, это куда более надежно, нежели создание единой системы. Информационно-финансовый подход обеспечивает конкуренцию, быстрое выявление ошибок и стимулирует разработчиков поддерживать качество моделей.