Пентагон и Anthropic: спор о применении ИИ в военных задачах осложняет контракт на $200 млн

Министерство обороны США и американская компания Anthropic, разработчик крупной языковой модели Claude, сталкиваются с глубоким разногласием по поводу условий использования искусственного интеллекта в рамках возможного контракта на сумму до 200 миллионов долларов, сообщает агентство Reuters.

Суть разногласий заключается в том, что Anthropic намерена ограничить спектр возможных применений своего ИИ-продукта, запрещая использование технологии для автономного наведения оружия, массового наблюдения и других сценариев, которые, по мнению компании, могут подорвать принципы ответственного использования. Эти ограничения стали препятствием для Пентагона, который, согласно анонимным источникам Reuters, рассчитывает на более широкие возможности применения ИИ-инструментов в боевых системах и аналитике.

Переговоры между оборонным ведомством и Anthropic продолжаются уже несколько недель, но стороны оказались на «глухой позиции». Представители Пентагона, ссылаясь на внутренний меморандум от 9 января, заявляют, что должны иметь право использовать коммерческие технологии искусственного интеллекта при условии соблюдения законодательства США, даже если исходные ограничения накладываются разработчиком. При этом представители оборонного ведомства прямо не ответили на запросы Reuters о комментариях.

Представитель Anthropic в комментарии агентству Reuters сообщил, что технологии компании уже используются в отдельных проектах, связанных с национальной безопасностью США, и что компания ведет «продуктивный диалог» с Министерством обороны по вопросам возможного сотрудничества.

По данным The Wall Street Journal, спор между сторонами распространяется и на ограничения использования ИИ правоохранительными структурами, включая ФБР и ICE. Источники издания указывают, что в Пентагоне считают подобные ограничения несовместимыми с требованиями к технологиям, применяемым в сфере национальной безопасности.

Конфликт стал заметным событием на фоне того, как правительство США усиливает свои технологические инициативы в сфере ИИ. В прошлом году Pentagon заключал ряд контрактов с крупными разработчиками ИИ, включая Alphabet’s Google, OpenAI и xAI, на внедрение агентских платформ для решения аналитических и планировочных задач, что стимулировало более глубокую интеграцию ИИ в структуры обороны.

Эксперты в области национальной безопасности и технологии отмечают, что подобные разногласия иллюстрируют расширяющиеся границы дилемм, с которыми сталкиваются коммерческие разработчики и государственные структуры. В то время как разработчики стремятся ограничить применение своих продуктов в потенциально спорных сценариях, государственные структуры подчеркивают необходимость гибкости и оперативной адаптации ИИ-решений под реальные угрозы и задачи.

Позиция Anthropic также отражает более широкую дискуссию в индустрии о контроле и этике ИИ: компания заявляла, что поддерживает национальную безопасность, но выступает против участия своей технологии в сценариях, которые могли бы нарушить демократические принципы или привести к нарушениям прав человека.

Если стороны не смогут согласовать рамки применения ИИ, отношения между Пентагоном и Anthropic могут стать прецедентом для будущих контрактов, в которых вопросы безопасности, юридической ответственности и этики будут играть ключевую роль в принятии решений о закупках передовых технологических продуктов.

Материал носит аналитический и информационный характер и отражает интерпретацию открытых данных и отчетов на момент публикации. Оценки и прогнозные ориентиры могут изменяться по мере развития технологий, рынков и регуляторной среды.