Стартъпът за изкуствен интелект Anthropic заяви, че няма да отстъпи в спора си с Министерството на отбраната на САЩ относно ограниченията върху използването на технологията ѝ.

На среща във вторник в Пентагона министърът на отбраната Пийт Хегсет е дал на главния изпълнителен директор на Anthropic Дарио Амодей срок до 17:01 ч. местно време в петък да се съгласи, че армията има право да използва технологията във всички законни случаи, предава The Wall Street Journal.

Ако Anthropic откаже, Хегсет е заплашил да приложи Закона за отбранителното производство (Defense Production Act), който може да задължи компанията да изпълни исканията на военните, или да я обяви за риск за веригата за доставки – ход, който би затруднил работата ѝ с други държавни изпълнители.

Anthropic отказва да приеме предложението на военните и не позволява моделите ѝ Claude да бъдат използвани в сценарии, свързани с масово вътрешно наблюдение или напълно автономни оръжия.

Амодей потвърди позицията на компанията в публично изявление в четвъртък.

„Не можем с чиста съвест да се съобразим с тяхното искане“, заяви той.

Компанията отказва да участва в наблюдение и автономни оръжия, докато военните настояват за пълна оперативна свобода

Пентагонът притиска Anthropic за военната употреба на AI модела Claude

Според Anthropic последното предложение на Пентагона на практика би премахнало въведените защитни механизми.

Говорител на компанията посочва, че проектодоговорът, получен от Пентагона през нощта, „на практика не прави никакъв напредък по отношение на предотвратяването на използването на Claude за масово наблюдение на американци или в напълно автономни оръжия“.

„Нова формулировка, представена като компромис, е съчетана с юридически текст, който би позволил тези защитни механизми да бъдат заобикаляни по всяко време“, добавя той.

Емил Майкъл, заместник-министър на отбраната, написа в социалната мрежа X, че масовото наблюдение вече е незаконно съгласно Четвъртата поправка на Конституцията на САЩ.

По думите му ведомството „няма да позволи на която и да е голяма технологична компания да определя гражданските свободи на американците“.

По-късно той коментира, че Амодей „не желае нищо повече от това лично да контролира американската армия и е готов да постави сигурността на страната в риск“.

В есе от близо 20 000 думи шефът на AI стартъпа очертава рисковете, които биха могли да възникнат, ако развитието на технологията остане без контрол

Дарио Амодей, Anthropic: Човечеството трябва да се събуди за катастрофалните рискове от AI

Конфликтът ескалира, след като служител на Anthropic е попитал представител на партньора ѝ Palantir дали Claude е бил използван при акцията за залавянето на бившия венецуелски президент Николас Мадуро.

Представители на Пентагона са възприели въпроса като поставяне под съмнение на правото на военните да използват AI по свое усмотрение.

В рамките на подготовката за евентуално обявяване на Anthropic за риск за веригата за доставки, представители на Пентагона са се свързали през последните дни с отбранителни компании като Lockheed Martin и Boeing, за да установят до каква степен те използват Claude, предава WSJ, позовавайки се на източници.

Според експерти по сигурността и изкуствения интелект подобна стъпка – както и евентуалното прилагане на Закона за отбранителното производство – би представлявала почти безпрецедентна ескалация срещу американска компания.

„Заплахите са по същество противоречиви: едната ни определя като риск за сигурността, а другата – като ключов елемент за националната сигурност“, заяви Амодей.

Случаят подчертава зависимостта на Пентагона от Anthropic. Доскоро компанията беше единствената с одобрение за работа в класифицирана среда, преди Министерството на отбраната на САЩ да даде подобно разрешение и на xAI на Илон Мъск, която се съгласи военните да използват нейните AI системи във всички законни случаи.

Google и OpenAI също предоставят технологии на Пентагона в некласифицирани среди и водят разговори с Министерството на отбраната относно евентуално одобрение за работа по класифицирани проекти.

В късните часове на четвъртък започна да циркулира онлайн петиция, подписана от служители на технологични компании, които призовават работодателите си да възприемат същия подход като Anthropic в преговорите с Пентагона по въпросите за автономните оръжия и масовото наблюдение.