През последните дни дебатът за безопасността на изкуствения интелект се превърна в един от най-сериозните публични дебати между хората, които определят посоката на индустрията.

Дарио Амодей от Anthropic предупреди, че технологичните компании трябва да забавят темпото, с което увеличават възможностите на най-мощните AI модели, ако механизмите за безопасност и контрол не успяват да ги догонят. Сам Алтман от OpenAI подкрепи необходимостта от по-внимателно развитие, а Илон Мъск също се присъедини към предупрежденията.

По-различна позиция заемат други две влиятелни фигури в технологичния сектор – главният изпълнителен директор на Nvidia Дженсън Хуанг и ръководителят на Meta Марк Зъкърбърг.

Тяхната теза е, че AI може да става едновременно по-мощен и по-безопасен и няма нужда развитието му да бъде забавяно.

На този фон водещите китайски AI компании почти не участват в публичния дебат за екзистенциалните рискове. Вместо това Пекин затяга регулациите, контролира начина, по който технологията достига до потребителите, и насочва индустрията към реални приложения и приходи.

Дарио Амодей получи подкрепа от Сам Алтман и Илон Мъск, но конкуренти и инвеститори подозират опит водещите компании сами да определят правилата на пазара

„Вълк в овча кожа“: Колко искрени са призивите на AI лидерите за забавяне

Зъкърбърг: Пазарът сам ще наказва компаниите, които пренебрегват безопасността

Марк Зъкърбърг изложи позицията си във вторник в публикация в X и други социални платформи.

Според него AI лабораториите, които не се фокусират върху съгласуването на поведението на системите с човешките цели и ценности, в крайна сметка ще изостанат.

„Води се сериозен дебат дали развитието на възможностите на AI трябва да бъде забавено, докато работата по съгласуването не навакса“, заяви той. „Според мен доверието и съгласуването бързо се превръщат в най-важните характеристики, по които ще се отличават AI агентите и моделите.“

Аргументът му е до голяма степен икономически.

Ако даден AI модел причини вреда, компанията зад него е изложена на значителен риск от правна отговорност. Следователно разработчиците имат собствен стимул да инвестират в безопасността, без държавата непременно да ги принуждава да забавят технологичния прогрес.

Зъкърбърг дава пример със самата Meta, която е отложила пускането на свои Muse AI технологии заради съображения за безопасност и сигурност.

„Просто го направихме като част от ежедневната си работа, защото очевидно това беше правилното решение както за хората, така и за нас“, казва той.

Американският президент заяви, че САЩ не се нуждаят от нови ограничения върху технологията, докато Сам Алтман, Илон Мъск и Дарио Амодей призовават за по-бавен и контролиран напредък на най-мощните AI модели

Тръмп отхвърли призивите за повече регулации на AI и атакува шефа на Anthropic Дарио Амодей

Хуанг: Имаме достатъчно закони

Позицията му е близка до тази на Дженсън Хуанг.

По време на конференцията Dreamforce на Salesforce ръководителят на Nvidia заяви, че създателите на AI модели трябва да носят отговорност за продуктите си, вместо да настояват за нови държавни ограничения.

„Имаме достатъчно закони. Имаме достатъчно регулации, които определят изискванията за надеждността и функционирането на продуктите“, каза Хуанг, определяйки новите специални регулации за AI като „напълно ненужни“.

Това поставя Хуанг и Зъкърбърг в един лагер по основния въпрос: рискът трябва да бъде управляван, но без да се натиска спирачката на технологичното развитие.

Враждуващите технологични лидери се обединиха около предупрежденията, че хората могат да изгубят контрол над технологията

Съперниците Алтман и Мъск подкрепиха призива на Дарио Амодей за забавяне на AI

Амодей и Алтман виждат друг риск

Дарио Амодей гледа на проблема от противоположната страна.

Ръководителят на Anthropic твърди, че в определен момент развитието на възможностите на моделите може да започне да изпреварва способността на разработчиците да гарантират тяхната безопасност. Затова той призова индустрията да забави темпото, с което разширява границите на технологията.

На Dreamforce Амодей отново защити тази позиция, определяйки по-внимателното развитие като начин индустрията да даде пример и да покаже, че може да постави безопасността пред скоростта.

Сам Алтман също постави безопасността и наблюдението върху AI системите пред непрекъснатото добавяне на нови възможности.

Той обаче посочи и проблема, който стои в сърцевината на целия дебат: как една компания да забави, ако не е сигурна, че конкурентите ѝ ще направят същото?

„Смятам, че е чудесно нашата индустрия да заяви, че искаме да действаме заедно, да можем да координираме усилията си и да сме сигурни, че разполагаме с достатъчно време, за да направим всичко това безопасно“, каза Алтман.

„Но когато се появи дори намек, че заради търговския натиск и надпреварата – между компании или между държави – някоя компания или някои държави може да не постъпят правилно, тогава хората започват истински да се страхуват.“

Според технологичния лидер „три или четири от водещите китайски компании“ трябва да позволят на конкурентите си да проведат „тестова проверка“ на моделите им, за да оценят тяхната безопасност

Мъск призова водещите AI лаборатории да тестват моделите си взаимно с Китай

Илон Мъск предлага още един вариант за ограничаване на рисковете

Водещите AI компании да тестват взаимно моделите си, преди те да бъдат пуснати за широката публика, предлага основателят на Tesla.

Според него xAI, OpenAI, Anthropic, Google, Meta и „три или четири от водещите китайски компании“ могат да предоставят моделите си на конкурентите за независими тестове за безопасност. „Вместо сами да си проверявате домашното, поне конкурентите ви ще го проверяват и ще могат да вдигнат тревога, ако открият проблеми“, каза Мъск по време на All-In Summit в Лос Анджелис.

Мъск признава, че подобна взаимна проверка няма да реши всички проблеми, но според него значително увеличава вероятността потенциалните рискове да бъдат открити навреме. Засега конкурентните AI лаборатории не са се съгласили с предложението му. Дарио Амодей обаче предлага сходен механизъм – външни експерти да бъдат допускани до компаниите, за да оценяват технологиите и да проверяват дали се спазват практиките за безопасност. Мъск смята, че подобен модел може да бъде приет и от Китай.

Докато американският президент поставя победата над Китай над опасенията за екзистенциалните рискове от изкуствения интелект, Брюксел вижда в предупрежденията на изследователи от Anthropic и OpenAI аргумент в полза на AI Act

„Нямам никакви притеснения“: Тръмп отхвърля страхa от AI, Европа отговаря: „Ние вече имаме закон за това“

Китай не участва особено в спора

Докато американските технологични лидери публично обсъждат дали развитието на AI трябва да бъде забавено, Z.ai, Moonshot, MiniMax, Alibaba и Tencent до голяма степен мълчат.

Рей Вон, основател и главен изпълнителен директор на подкрепяния от Tencent OpenPie, смята, че шумът около опасностите е донякъде преувеличен.

„В Китай не обръщаме чак толкова голямо внимание на тези изказвания, защото това не е първият път, когато [американските ръководители] говорят подобни неща“, казва той пред CNBC. „Просто трябва да го направят.“

Китайското външно министерство определи американските предупреждения като „всяване на страх“, а държавни медии заговориха за „сценарий от Студената война“.

Тук обаче има важен парадокс: Китай може да говори по-малко за безопасността на AI, но това не означава, че го оставя без контрол.

Китай вече има процедури за одобряване на нови услуги с генеративен AI, особено когато те могат да влияят върху общественото мнение. След появата на ChatGPT китайските алтернативи останаха недостъпни за широката публика в продължение на месеци и бяха пуснати едва след разрешение от властите през лятото на 2023 г.

Тази седмица Пекин публикува и третото издание на своята „Рамка за управление на безопасността на AI“, която включва насоки за обозначаване на генерирано от изкуствен интелект съдържание и системи за бързо откриване на рискове.

Разликата е по-скоро във философията.

Докато част от американската индустрия обсъжда колко далеч могат да стигнат най-мощните модели и дали развитието им трябва временно да бъде забавено, китайските компании са много по-фокусирани върху това как AI може да бъде внедрен, контролиран и превърнат в работещ бизнес.