Основателят и главен изпълнителен директор на Anthropic Дарио Амодей отговори в понеделник на спекулациите в технологичния сектор, че компанията му подкрепя евентуални действия на американското правителство за забрана на китайските AI модели с публично достъпни параметри, а може би и на всички подобни модели.

„Всеки, който е чел предишните ми текстове, би трябвало да знае, че не смятам подобни забрани за полезна мярка. Но нека го заявя ясно, за да няма никакво съмнение: Anthropic никога не е призовавала за забрана на моделите с публично достъпни параметри“, казва той, поставяйки сам ударението върху последното твърдение.

Амодей реагира с публикация в блога си, след като в петък основателят и главен изпълнителен директор на Nvidia Дженсън Хуанг публикува първото си съобщение в X. Той сподели отворено писмо, в което Nvidia и редица други компании в областта на AI, сред които Hugging Face, Meta, Microsoft и Mistral, призоваха политиците да не налагат широкообхватни „преждевременни ограничения“ върху AI моделите с публично достъпни параметри.

Макар в писмото Китай да не се споменава конкретно, дебатът в индустрията се върти около обвиненията, че китайските AI лаборатории напредват, като присвояват интелектуална собственост от американските си конкуренти.

Един от обсъжданите методи е т.нар. дестилация, при която един AI модел изпраща огромен брой заявки към друг, за да извлече информация за начина му на работа и да възпроизведе част от възможностите му.

В публикацията си от понеделник Амодей твърди, че разглежда AI моделите с публично достъпни параметри отделно от заплахата, която според него представлява Китай.

„Моделите с публично достъпни параметри, които нямат опасни способности, са обществено благо. Използването им не изисква други разходи освен необходимата изчислителна мощност, а те носят ползи за бизнеса, разработчиците и изследователите.“

Амодей посочва, че отдавна има сериозни опасения около развитието на AI. Използването от компании на модели с публично достъпни параметри, включително създадени в Китай, не е сред тях.

Той се страхува, че „авторитарни правителства“ могат да създадат модели, по-мощни от американските, за да постигнат „трайно военно превъзходство“ или да използват AI за потискане на собственото си население.

Евтините отворени модели печелят позиции в САЩ и разпалват спор дали регулациите пазят сигурността или ограничават конкуренцията

Китайският изкуствен интелект преобръща пазара, а OpenAI и Anthropic искат защита

По думите му Китайската комунистическа партия не е единственото авторитарно управление, което го тревожи, но разполага с „най-големи възможности“.

Амодей предупреждава също, че AI може да улесни биологични атаки, както и кибератаки. Според него моделите с публично достъпни параметри биха били по-опасни при подобен сценарий, тъй като върху тях трудно могат да бъдат наложени надеждни защитни ограничения, а употребата им не може лесно да бъде наблюдавана.

Позовавайки се на доклад на британския Институт за сигурност на AI, той отбелязва, че веднъж публикувани, параметрите на един модел не могат да бъдат изтеглени обратно.

Тази позиция противоречи на тезата на привържениците на отворените модели. Според тях достъпът до мощни системи, които не се контролират от една компания или институция, помага на специалистите по сигурността да се защитават по-ефективно.

Амодей изброява и мерки, които според него могат да ограничат напредъка на Китай. Сред тях са запазването на ограниченията върху достъпа до мощни чипове, които от години са част от политиката на САЩ, както и въвеждането на строги правила срещу неправомерното използване на дестилация.

Вашингтон вече е заплашвал Китай със санкции, ако установи кражба на интелектуална собственост, свързана с американски AI модели.

Амодей подкрепя и усилията, част от които се ръководят от САЩ, за създаване на международна организация, която да проверява безопасността на AI моделите.

Страната настоява за глобално сътрудничество и по-отворен достъп до технологията, докато САЩ обсъждат достъп до своите AI модели само за „доверени партньори“

Китай предлага модел за AI безопасност след срещата на Г-7 без Пекин

Според него подобна система би могла да работи само ако всички държави, включително Китай, приемат да участват в нея.

„Смятам, че около тази идея всъщност почти е постигнат консенсус. Окуражава ме както фактът, че през последните месеци администрацията на Тръмп започна да се движи в тази посока, така и предложенията на индустрията най-мощните модели да бъдат подлагани на подобни проверки независимо от държавата им на произход и дали параметрите им са публично достъпни“, пише той.

Предложенията предвиждат по-слабо способните модели, включително разработваните от стартъпи и академични организации, да бъдат изцяло освободени от тези изисквания.

„За да бъдат ефективни, проверките трябва да се прилагат в световен мащаб, което означава, че дори Китайската комунистическа партия трябва да се съгласи да участва“, добавя Амодей.

„Смятам, че това може да се окаже възможно. Ограничено сътрудничество за предотвратяване на биологични оръжия, създадени с помощта на AI, е постижимо, защото е и в интерес на Китай.“