Администрацията на САЩ не трябва да забранява достъпа до китайски модели с изкуствен интелект в опит да си осигури предимство в надпреварата за AI. Това казва в интервю за Financial Times Марк Зъкърбърг, според когото подобен подход няма да бъде ефективен. Основателят на Meta предупреждава и за опасността от т.нар. „регулаторен плен“ („regulatory capture“), при който водещите американски AI компании могат да влияят върху правилата в своя полза и да ограничат конкуренцията.

Коментарът на Зъкърбърг, че забраната на най-модерните китайски AI модели в САЩ „не би била ефективно решение“ идва в момент, когато Вашингтон заплашва да предприеме действия срещу китайски лаборатории заради предполагаеми кражби на интелектуална собственост.

С изказването си основателят на Meta публично се включва в разгорещения дебат във Вашингтон и сред водещите компании в сектора за това как САЩ трябва да регулират бързо развиващите се AI технологии и как да отговорят на засилващата се конкуренция от Китай.

Дискусията се изостри, след като базираната в Пекин Moonshot AI представи този месец своя модел Kimi K3, чиито възможности вече се доближават до тези на OpenAI и Anthropic.

Високопоставени представители на администрацията на Доналд Тръмп твърдят, че разполагат с доказателства, че Moonshot е обучавала модела си чрез мащабен и прикрит процес на извличане на знания от американски AI модели – техника, известна като distillation („дестилация“). Миналата седмица министърът на финансите Скот Бесънт заяви, че срещу китайски лаборатории, които „преминат границата към кражба на интелектуална собственост“, могат да бъдат наложени санкции.

Технологичният свят е обсебен от една концепция в изкуствения интелект – дестилацията

Зъкърбърг се обявява против подобни забрани. По думите му американските компании трябва „систематично“ да идентифицират слабите места и пречките пред собственото си развитие, за да могат по-успешно да се конкурират с Китай в надпреварата за AI – битка, която и двете държави определят като ключова за националната сигурност и икономическия си просперитет.

По-рано във вторник ръководителят на Meta представи своята визия за „изкуствен интелект за всички“ и отново защити концепцията за отворените AI модели, които могат свободно да бъдат изтегляни, модифицирани и използвани на собствен хардуер – подход, особено популярен сред китайските разработчици.

Той предупреди и за риска развитието на изкуствения интелект да се концентрира „в ръцете на няколко влиятелни групи“. Коментарът му беше възприет като косвена критика към Anthropic и OpenAI, които в момента доминират пазара на чатботове със своите затворени, собственически AI модели.

Nvidia, Microsoft, Meta и Palantir призоваха политиците: Не задушавайте достъпните AI модели с преждевременна регулация

Опасността от „регулаторен плен“

Пред FT Зъкърбърг, който през последните години активно търси по-добри отношения с Доналд Тръмп след предизборната му кампания и завръщането му в Белия дом, коментира и въпроса как САЩ трябва да регулират пускането на нови AI модели.

Според него механизми като независима експертна оценка или предварителна проверка могат да бъдат полезни за индустрията, ако бъдат организирани разумно.

Той обаче предупреждава, че водещите AI компании не бива да получават прекалено голямо влияние върху този процес.

„Винаги съществува риск от регулаторен плен, когато група компании със собствени интереси участва в процеса на оценяване“, казва Зъкърбърг. „Дали лабораториите, които разработват най-модерните модели, наистина искат моделите с отворен код да успеят? Според мен сигналите по този въпрос са доста противоречиви.“

Дарио Амодей: Забраната на отворени AI модели няма да спре Китай

Очаква се администрацията на Тръмп още тази седмица да представи доброволна рамка, по която разработчиците ще могат да предоставят AI моделите си за предварително тестване преди официалното им пускане.

Главният изпълнителен директор на Anthropic Дарио Амодей вече призова за по-строги правила, а ръководителят на Google DeepMind Демис Хасабис предложи създаването на саморегулираща се организация по подобие на американския финансов регулатор FINRA, която да определя индустриалните стандарти.

Компания, атакувана от AI модели на OpenAI, определя инцидента като „сигнал за събуждане“

Опитите за създаване на механизъм за предварителна оценка идват, след като през юни Белият дом ограничи достъпа до най-модерната технология на Anthropic заради опасения, че способността ѝ да открива киберуязвимости може да застраши световната финансова система.

Зъкърбърг обаче смята, че ограничаването на най-мощните AI модели не е правилният отговор на рисковете за киберсигурността, тъй като именно те могат да помогнат за откриването и отстраняването на слабости в системите.

Той даде за пример инцидент от миналата седмица, при който програма на OpenAI е излязла извън човешки контрол и е проникнала в системите на стартъп.

„Видяхме случаи, при които компании стават жертва на пробиви, защото нямат достъп до затворените водещи модели заради ограниченията. Затова прибягват до модели с отворен код, за да могат да открият и отстранят проблемите“, казва той.

Бизнесът се обръща към китайските AI модели, за да намали разходите

OpenAI и Anthropic също се обявяват против ограничения върху моделите с отворен код. Въпреки това Амодей не е съгласен с тезата, че подобен подход непременно улеснява разработването на защитни механизми или че широкият достъп до тези технологии помага повече на защитниците, отколкото на потенциалните нападатели.

Междувременно Зъкърбърг инвестира милиарди долари в развитието на това, което нарича „лична суперинтелигентност“, като досега поставяше основен акцент върху отворените AI модели, макар те да изостават по възможности от водещите модели на конкурентите.