7 мин
Подход Nvidia к безопасности ИИ
Генеральный директор Nvidia Дженсен Хуанг выступил против нового регулирования в сфере искусственного интеллекта, назвав безопасность инженерной, а не законодательной проблемой. Во время выступления на конференции Dreamforce он подчеркнул, что разработчики программного обеспечения и вычислительных систем обязаны создавать надежные среды для тестирования своих продуктов и не выпускать их на рынок, если есть сомнения в их безопасности.
По словам Хуанга, выбор между скоростью инноваций и безопасностью является ложным. Компании могут и должны развивать технологии максимально быстро, но при этом обязаны самостоятельно делать паузу, если теряют контроль над процессом. Он утверждает, что *рыночные силы уже существуют* и эффективно справляются с задачей, поэтому в дополнительных законах нет необходимости.
Дискуссия о замедлении темпов разработки
Заявление главы Nvidia прозвучало на фоне активной дискуссии в индустрии о необходимости замедлить разработку наиболее мощных ИИ-моделей. Ранее с таким призывом выступили CEO Сэм Альтман, глава Anthropic Дарио Амодеи и Илон Маск. Их позиция основана на опасениях, что неконтролируемое развитие технологий может привести к непредвиденным негативным последствиям.
Эта дискуссия уже оказала влияние на финансовые рынки. 14 сентября на фоне обсуждения возможного замедления темпов разработки снизились котировки акций ряда компаний, связанных с ИИ и производством полупроводников. Инвесторы оценивали потенциальное снижение спроса на вычислительную инфраструктуру, ключевым поставщиком которой является Nvidia.
Антимонопольные риски и роль государства
Вопрос добровольной координации между технологическими гигантами осложняется антимонопольным законодательством. Даже если ведущие разработчики согласятся замедлить темпы, их действия могут быть расценены как сговор с целью ограничения конкуренции. Для решения этой проблемы необходимы четкие юридические рамки.
Хронология развития ситуации:
- CEO Anthropic Дарио Амодеи призывает снизить темпы развития передовых ИИ-моделей.
- Крупные игроки, включая, выражают обеспокоенность, что совместное замедление может нарушить антимонопольные законы.
- 11 сентября обращается в Конгресс США с просьбой разъяснить правовой статус такой координации.
Амодеи считает, что наиболее эффективным решением было бы регулирование всех американских разработчиков со стороны властей или предоставление им узкого исключения из антимонопольных ограничений для добровольной координации.
Позиция по моделям с открытым кодом
Позиция Дженсена Хуанга согласуется с его предыдущими заявлениями. В июле Nvidia присоединилась к коалиции из более чем 20 компаний, которые призвали власти США не вводить общие ограничения для ИИ-моделей с открытыми весами. Среди участников инициативы были:
- Nvidia
- Meta
- Microsoft
Тогда Хуанг заявлял, что подобные системы способствуют инновациям, повышают кибербезопасность и ускоряют распространение технологий. Текущее выступление подтверждает его последовательную позицию в пользу саморегулирования отрасли и минимального вмешательства со стороны государства.
Частые вопросы
Почему глава Nvidia против регулирования ИИ?
Дженсен Хуанг считает, что безопасность ИИ — это инженерная, а не законодательная задача. По его мнению, разработчики должны сами обеспечивать надежность своих продуктов, а существующие рыночные силы уже эффективно контролируют отрасль без новых законов.
Какую альтернативу регулированию ИИ предлагает Nvidia?
Nvidia предлагает саморегулирование отрасли, где компании самостоятельно принимают решение о паузе в разработках, если теряют контроль над процессом. Глава компании утверждает, что рыночные механизмы и ответственность разработчиков являются достаточными мерами.
Чем позиция Nvidia отличается от мнения и Anthropic?
Позиция Nvidia прямо противоположна: в отличие от CEO и Anthropic, Дженсен Хуанг не поддерживает идею замедления разработки мощных ИИ-моделей. Он считает, что компании могут развивать технологии быстро и безопасно одновременно, в то время как другие лидеры индустрии опасаются неконтролируемых последствий.
