Ръководителят на AI подразделението на Google DeepMind, Демис Хасабис, призова САЩ да създадат нов орган за определяне на стандарти за най-напредналите AI модели и оценка на рисковете за националната сигурност на страната. Той отбелязва киберзаплахите, както и потенциалните биологични и ядрени рискове, пише CNBC.

В публикация в социалната мрежа X, Хасабис подчертава нуждата от „спешно действие“ за справяне с рисковете, свързани с изкуствения общ интелект – моментът, в който AI достига или надминава човешките способности в широк спектър от задачи.

„Вече виждаме предизвикателствата, които най-модерните AI модели създават за киберсигурността. С развитието им могат да възникнат и други заплахи, включително в ядрената и биологичната сфера“, пише Хасабис в своята публикация.

Той предлага създаването на публично-частно партньорство под ръководството на федералното правителство на САЩ. Според него страната е най-подходяща да ръководи тази инициатива поради икономическото си влияние и технологичното си лидерство. Идеята е да се създаде нов орган за стандартизация по подобие на Органа за регулиране на финансовата индустрия на САЩ (FINRA) – саморегулираща се организация, която под надзора на федералните власти регулира брокерските компании и капиталовите пазари в страната.

Хасабис смята, че в управителния съвет трябва да участват независими технически експерти и представители на общността с отворен код.

Предложението предвижда лабораториите, които разработват най-мощните AI модели, първоначално доброволно да предоставят системите си за проверка до 30 дни преди официалното им пускане. Ако механизмът се докаже като ефективен, такъв преглед може да стане задължително условие за внедряване на нови модели на американския пазар.

Стартъпът с оценка от близо 1 трлн. долара предупреждава, че моделите може скоро да започнат да се усъвършенстват без човешка намеса

Anthropic призова за глобална пауза в разработването на най-мощните AI системи

Хасабис счита, че новият орган трябва да разполага със значително финансиране, за да привлича водещи специалисти и да осигурява необходимите изчислителни ресурси за мащабни тестове. Той посочва, че средствата вероятно ще идват основно от индустрията.

Тестовете могат да включват проверки дали AI агентите се опитват да заобикалят защитни механизми, дали проявяват признаци на подвеждащо поведение, дали спазват добри практики като цифрово водно маркиране на генерирани изображения и дали предоставят разбираеми за хората обяснения за начина, по който достигат до своите заключения.

Все повече лидери настояват за общи правила

CNBC отбелязва, че призивът на Хасабис идва месец след среща на лидерите на Г-7, на която той и главният изпълнителен директор на Anthropic Дарио Амодей са призовали за създаване на международна коалиция, водена от САЩ, за разработване на общи правила и стандарти за изкуствения интелект.

В срещата са участвали и президентът на САЩ Доналд Тръмп, както и представители на водещи технологични компании. По-рано този месец главният изпълнителен директор на OpenAI Сам Алтман също подкрепи идеята за такъв орган пред Financial Times.

Предложението на Бърни Сандърс за суверенен AI фонд и новите регулации показват консенсус, че бъдещето на технологиите е не само корпоративен въпрос, а и ключов приоритет за икономиката и разпределението на бъдещите трилиони печалби

От частен сектор към стратегическа индустрия: Затяга ли Вашингтон контрола над изкуствения интелект?

Въпреки че все повече компании подкрепят идеята за общ контролен механизъм, отношенията между AI индустрията и американските власти остават напрегнати. CNBC припомня, че през последните седмици Anthropic е водила преговори с администрацията на Доналд Тръмп, след като временно са били наложени ограничения върху износа на един от най-новите ѝ модели. OpenAI също е била принудена да забави първоначалното внедряване на нов модел по искане на американското правителство.

Призивите за по-строг контрол се засилват на фона на нарастващата конкуренция между САЩ и Китай в развитието на изкуствения интелект.

CNBC също така отбелязва, че новите модели на китайски компании като DeepSeek и Z.ai вече се възприемат като сериозни конкуренти на водещите американски системи на OpenAI и Anthropic. Те започват да намират приложение и сред американски компании, които търсят по-ниски разходи за AI. Това подтиква американските законодатели да обсъждат мерки за ограничаване на използването на китайски AI модели от местни компании.

От Държавния департамент на САЩ заявяват пред CNBC, че разпространението на подобни технологии поражда „сериозни опасения“ от гледна точка на националната сигурност.