7 мин
«Мировое господство» как угроза децентрализации
Виталик Бутерин раскритиковал подход технологических гигантов к развитию искусственного интеллекта, чья риторика направлена на достижение доминирующего положения. По его мнению, заявления о том, что «хороший исход — это контролирующее мировое господство», создают риски чрезмерной концентрации власти и должны вызывать максимальную тревогу у регуляторов и общества. 24k
Эта позиция прямо противоречит принципам децентрализации. Ранее Бутерин уже указывал на опасность проектов «суверенного ИИ», которые на деле полностью зависят от централизованной инфраструктуры и Anthropic. Он считает, что такая зависимость от Big Tech является фундаментальной угрозой для всей экосистемы Ethereum. Cryptonews
Два сценария будущего: столкновение «наивных» позиций
Бутерин считает, что текущая дискуссия о будущем ИИ зашла в тупик из-за двух взаимно несовместимых мировоззрений. С одной стороны, есть сторонники сценария «ИИ 2040», которые уверены в появлении суперинтеллекта (ASI) к 2040 году и считают, что остановить этот процесс практически невозможно. С другой — критики, называющие такой прогноз наивным и указывающие на сложность глобальной координации.
По словам сооснователя Ethereum, обе позиции по-своему наивны. Критики недооценивают скорость развития технологий и не замечают собственной наивности в предположении, что переход к ASI по умолчанию пройдет гладко. Именно эта неопределенность, по его мнению, требует разработки более гибких стратегий управления рисками.
Механизм сдерживания: как договориться о «паузе»
Для выхода из идеологического тупика Бутерин предлагает заранее согласовать набор объективных триггеров, которые будут сигнализировать о выходе ИИ из-под контроля. Если определенное количество таких событий произойдет, стороны должны будут серьезно рассмотреть возможность замедления или полной приостановки исследований.
В качестве примеров таких триггеров он привел конкретные глобальные события:
- Возникновение суперпандемий, искусственно созданных или усиленных с помощью ИИ.
- Рост уровня безработицы в развитых странах выше 25% из-за массовой автоматизации.
- Появление и распространение полностью автономного летального оружия.
Такая сделка, по его мнению, может быть принята обеими сторонами, пусть и по разным причинам. Сторонники быстрого развития ИИ согласятся, так как не верят в срабатывание триггеров, а их оппоненты — потому что ожидают обратного.
Децентрализация как ответ: инициатива d/acc
В качестве практического шага Бутерин продвигает платформу d/acc (decentralized/defensive/differential acceleration). Ее цель — развитие технологий, которые полезны человечеству вне зависимости от сценария развития ИИ, и фокусируются на снижении рисков, а не на ускорении прогресса.
Ключевые направления d/acc включают:
- Формальную верификацию кода для повышения безопасности смарт-контрактов.
- Развитие криптографии, включая постквантовые алгоритмы.
- Создание защищенного оборудования с открытым исходным кодом.
- Разработку технологий для повышения устойчивости общества к пандемиям.
По мнению Бутерина, именно такие проекты приносят реальную пользу и делают мир безопаснее, в отличие от гонки за созданием неконтролируемого суперинтеллекта.
Частые вопросы
В чем Виталик Бутерин видит главную угрозу ИИ?
Главная угроза, по мнению Бутерина, заключается в чрезмерной концентрации власти в руках нескольких технологических гигантов. Их риторика о достижении «контролирующего мирового господства» противоречит принципам децентрализации и создает системные риски для общества.
Какой механизм сдерживания ИИ предложил Виталик Бутерин?
Бутерин предложил механизм «триггеров» — заранее согласованных глобальных событий, которые могут запустить паузу в разработках ИИ. Примерами таких триггеров являются ИИ-пандемии, рост безработицы выше 25% или появление автономного летального оружия.
Что такое платформа d/acc, которую продвигает Бутерин?
d/acc (decentralized/defensive/differential acceleration) — это инициатива, сфокусированная на развитии защитных и децентрализованных технологий. Ее цель — создавать решения, которые полезны человечеству при любом сценарии развития ИИ и снижают риски, а не только ускоряют прогресс.
