Президент Трамп распорядился федеральным ведомствам «немедленно прекратить» использование продуктов Anthropic, а министр обороны Пит Хегсет признал компанию угрозой национальной безопасности в сфере цепочек поставок.
Это решение запрещает всем военным подрядчикам вести дела с Anthropic после того, как генеральный директор Дарио Амодеи отказался снять защитные меры против массовой слежки и автономного оружия.
Anthropic назвала это решение «юридически необоснованным» и пообещала его оспорить, а бывший руководитель подразделения ИИ в Пентагоне назвал красные линии компании «разумными».
Anthropic отказалась по двум основным причинам: этическим и техническим.
Причина по автономному оружию
CEO Дарио Амадеи считает, что современные ИИ-модели вроде Claude ненадёжны — они галлюцинируют, ошибаются в распознавании, и полагаться на них для летальных решений без человека опасно для военных и гражданских.
Компания не хочет рисковать жизнями, предлагая вместо этого совместные исследования для улучшения, но Пентагон отказался.
Причина по слежке
Массовое наблюдение за американцами с помощью ИИ противоречит демократическим ценностям и свободам — это "несовместимо с принципами демократии", по словам Амадеи.
Даже если Пентагон утверждает, что запросы законны, Anthropic не доверяет юридическим формулировкам контракта, которые позволяют обойти ограничения.
Пентагон настаивал: "Нам нужны только законные сценарии с человеческим контролем", но Anthropic не поверила формулировкам контракта — опасаясь лазеек для обхода ограничений позже.Компания сознательно пошла на конфликт и потерю $200+ млн контракта, чтобы сохранить принципы. Это их стратегический выбор, а не реакция на конкретный запрос.
Пентагон требовал убрать guardrails для любых законных сценариев, включая гипотетические военные симуляции (анализ траекторий ракет, перехват ICBM), но не для самостоятельного запуска ИИ.
"Без ограничений" означало отсутствие программных блоков на такие запросы — ИИ мог бы отвечать и моделировать, но человек всегда принимал финальное решение.
И всё же откуда взялся термин автономное оружие
Суть термина "автономное оружие""Полностью автономное оружие" (fully autonomous weapons, LAWS) всегда подразумевает ИИ без человеческого контроля в реальном времени: система сама обнаруживает, выбирает цель и наносит удар (включая запуск ракеты) после начальной активации. Это стандартное определение из ООН (с 2014) и кампаний вроде Stop Killer Robots — человек не верифицирует каждое решение.
Требования Пентагона в конфликте
Они требовали снять guardrails для "всех законных целей", что включало анализ/симуляции (ICBM-перехват, где ИИ даёт данные, а человек подтверждает и запускает). Официально Пентагон запрещает полную автономию (Directive 3000.09), но Anthropic увидела риск: разблокировка открывает путь к системам, где ИИ эволюционирует к самостоятельным решениям.
Резюме по терминологии, требованию и отказу:
Термин "автономное оружие"
описывает полную автономию без человека.Запрос Пентагона: Полуавтономия с верификацией человека + гибкость для будущего.
Anthropic заблокировала даже гипотетические сценарии полной автономии из принципа. Конфликт в интерпретации "законных целей".
Хронология событий
24 февраля: Хегсет даёт Anthropic срок до пятницы 17:01 по восточному времени для снятия ограничений, угрожая Defense Production Act или статусом "supply chain risk".
25 февраля: Амадей заявляет, что не может "по совести" согласиться, подчёркивая риски для демократии и ненадёжность ИИ.
27 февраля: Срок истёк; Хегсет вводит запрет, с 6-месячным переходным периодом; Трамп приказывает всем агентствам прекратить использование.
Комментариев нет:
Отправить комментарий