Как ЕС провали опита си да регулира изкуствения интелект

През декември 2023 г. европейски представители работят в продължение на 36 часа, за да постигнат съгласие по законодателство, считано за първо по рода си в света.

Залогът е огромен. Успехът означава, че Брюксел ще поведе света в изработването на цялостни правила за технология, за която се предвижда да преобрази глобалната икономика.

Накрая, около 1 часа през нощта на 9 декември, преговарящите постигат сделка. Комисарят Тиери Бретон слага сако, изтощените законодатели отварят бутилки шампанско и се отправят към пресконференция, разказва Financial Times.

Почти две години по-късно настроението в Брюксел е далеч по-малко тържествено.

Законът за изкуствения интелект беше замислен така, че да използва икономическата тежест на Европа, за да принуди компаниите да създават „достоверен AI“ за нейните 450 милиона потребители чрез подход, основан на оценка на риска: забрана на най-вредните приложения, строг контрол върху високорисковите системи и по-лек режим за нискорисковите.

Но сложността на закона, прибързаното включване на AI модели като ChatGPT и хаотичната му имплементация превърнаха т. нар. AI Act от символ на европейско лидерство в пример за онези, които твърдят, че континентът поставя регулациите над иновациите.

На този фон в сряда Европейската комисия отложи ключова част от своите исторически правила за AI - първото официално признание, че Брюксел се затруднява със собственото си законодателство.

Сега служители и компании се борят с два въпроса: дали ЕС не е стигнал твърде далеч, твърде бързо? И как може да поправи регулацията, така че европейската икономика да не изпусне AI-вълната в момент, когато трудно съперничи на геополитическите си конкуренти?

По-малко бюрокрация: ЕК предлага отсрочка за законите за AI и GDPR в полза на технологичните гиганти

Да остане в надпреварата за глобално доминиране в областта на изкуствения интелект е ключово за Европа. Неспособността ѝ да създаде или развие технологични гиганти разшири пропастта в производителността спрямо САЩ. След като изостана при други технологии, Брюксел иска ЕС да стане „AI континент“, но блокът се затруднява да развие собствена екосистема и да ускори инвестициите в изкуствен интелект до нивата на суперсили като САЩ и Китай.

Успехът или провалът на Брюксел да поправи правилата си има значение далеч отвъд европейските граници. AI Act е първият опит в света да се регулира технология, способна не само да преобрази всеки сектор на световната икономика, но и потенциално да излезе извън контрол с непредвидими последици. Ако ЕС разреди законодателството до степен на незначителност, въпросът е кой друг - ако изобщо някой - ще установи нужните граници, коментира FT.

Иронично е, че европейският стремеж да регулира AI първоначално беше замислен да подпомогне развитието на новата технология.

Регулирането на пазара „в зародиш“ стана един от приоритетите на новата комисия на Урсула фон дер Лайен през 2019 г. Тя обяви, че в рамките на 100 дни ще предложи първия в света закон за изкуствен интелект.

Тогава имаше опасения, че общественото недоверие към AI продуктите може да забави развитието им в Европа.

Европейският бизнес притиска Брюксел да спре продължаващото приемане на AI Act

По време на преговорите европейските законодатели силно се повлияха от новините, идващи от САЩ: фалшиви арести заради системи за лицево разпознаване, алгоритми за оценка на кредити, водещи до дискриминация. За да контролира подобни рискове, Брюксел искаше да съчетае традиционното законодателство за безопасност на продуктите със защита на основните права, включително предотвратяване на масово наблюдение.

По онова време имаше глобален консенсус, че AI се нуждае от правила.. Дори големите технологични компании го признаваха - през 2020 г. например Марк Зъкърбърг посети Брюксел, за да призове правителствата да предложат нови правила за онлайн съдържанието.

Имаше и други инициативи за управление на AI, които се влияеха взаимно - принципите на ОИСР, рамките на Г-7, както и изпълнителна заповед от първата администрация на Тръмп, предлагаща „регулаторни принципи“ за развитие на AI в съответствие с американските ценности.

„Колкото повече създаваме надежден AI, толкова по-добре Европа ще бъде позиционирана да го приеме - това беше основната цел“, казва пред FT Габриеле Мацини, водещ автор на закона за изкуствен интелект в Европейската комисия.

Екатерина Захариева: „Европа трябва не просто да приеме промяната, а да я управлява“

Но когато ChatGPT на OpenAI се появи в края на 2022 г., AI Act - вече в напреднал етап на преговори - беше набързо пренаписан, за да включи правила за генеративни модели с общо предназначение - системи, които създават текст, изображения или код и могат да се използват за множество приложения. Първоначалният проект на ЕK не съдържаше никакво споменаване на големи езикови модели, които дотогава се смятаха за предимно експериментални.

AI Act „не е регулация за ChatGPT“, казва Даниел Люфер, старши анализатор в групата за дигитални права Access Now. „Той никога не е бил замислен като такъв. И започна сложен процес на набутване на нови правила в рамка, която не беше предназначена за тях.“

Допълнително напрежение донесе откритото писмо от Future of Life Institute през март 2023 г., подписано от личности като Илон Мъск, съоснователя на Apple Стив Возняк, учените Йошуа Бенджио и Стюарт Ръсел и писателя Ювал Ноа Харари. То призоваваше за шестмесечна пауза в разработването на мощни AI системи, докато не бъдат създадени адекватни гаранции.

Мацини казва, че това напълно e изкривло политическия разговор. Вместо само да регулират използването на AI, законодателите се чувстват длъжни да регулират самото развитие на системите - и да гарантират, че законът обхваща най-големите модели.

„Парламентът беше напълно единодушен, че трябва поне да регулира ChatGPT. Какво изобщо правим тук, ако излезем от тази преговорна зала без да регулираме ChatGPT? Тогава ще сме напълно неефективни“, разказва пред FT Лаура Кароли, участвала като асистент на един от ключовите преговарящи от Европейския парламент и бивш старши сътрудник в мозъчния тръст CSIS.

Мацини посочва и „регулаторната истерия в Брюксел“, която е навредила на качеството на преговорите и допълнително е засилила усещането за спешност. Европейските избори от юни 2024 г. наближавали, а преговарящите не искали да пропуснат политическото прозорче.

Този политически срок, външната „намеса“ и дебатът за екзистенциалните заплахи от AI „създадоха смесица, в която здравият разум сякаш беше изгубен“, казва Мацини.

Moderna се срива под натиска на новите регулации и скептицизма на Белия дом

За Патрик ван Ейке, съпредседател на глобалната практика по киберсигурност, данни и поверителност в адвокатската кантора Cooley, Европейската комисия е допуснала „фундаментална грешка“ още в началото на регулаторния процес, като е третирала AI като продукт, а не като процес.

Според правилата, които регулират статични продукти, като например асансьор, компаниите трябва да покрият определени изисквания за безопасност, преди да го пуснат на пазара. Но докато един асансьор ще върши абсолютно същото и след 20 години, казва ван Ейке, AI е динамичен процес, който непрекъснато се променя. „Това прави невъзможно прилагането на строго кодирани изисквания“, отбелязва той.

Когато AI Act официално влезе в сила през август 2024 г., мнозина го определиха като “недопечен”.

Законът изискваше широк набор от допълнителни регулации, които да определят кодекси, указания и стандарти, така че компаниите да знаят как да прилагат нормите. Много разпоредби влязоха в сила постепенно, понякога със закъснение и неясни срокове.

„Спри, не си отивай!“ Може ли Европа да задържи предприемачите, които търсят по-високо темпо?

Това обърка компаниите, казва пред FT Елизабета Ригини, адвокат в Sidley Austin, която консултира фирми относно AI Act. „Дори за големи дигитални компании подготовката за съответствие отнема време“, казва тя. „Законът остави редица детайли да бъдат определени чрез допълнителни изпълнителни актове и указания. А несигурността никога не е добра за бизнеса.“

Дори когато успяват да разберат как да се съобразят с правилата, компаниите твърдят, че изискванията водят до огромна административна тежест, защото трябва да оценяват рисковете на своите AI системи и да изграждат механизми за прозрачност и отчетност.

Получаващите се разходи създават точно обратното на равнопоставена среда в сектора, посочва Ван Ейке. „По-големите и утвърдени компании ще се съобразят по-лесно и ще получат още по-голямо конкурентно предимство спрямо стартъпите.“

Chips Act 2.0: Всички държави от ЕС настояват за отделен бюджет за чипове

AI стартъпите предупреждават, че настоящата ситуация създава среда, в която големите корпорации процъфтяват, а по-малките компании и подрастващите фирми едва оцеляват.

Александру Войка, ръководител „Корпоративни отношения“ в лондонския AI стартъп Synthesia, казва: „Много от тези растящи компании никога няма да достигнат мащаба и влиянието на американските или китайските фирми, защото са затрупани от регулации.“

Но и големите компании са разочаровани от закона. Гиганти като Meta твърдят, че ЕС сам се лишава от достъп до авангардни услуги, защото компаниите се страхуват да внедряват определени AI функции, за да не нарушат AI Act.

През юли големи корпорации, включително Airbus, BNP Paribas, Mercedes-Benz и TotalEnergies, призоваха Европейската комисия да спре сроковете по закона за две години, за да се опростят правилата и да се даде време на бизнеса да се адаптира.

Дори Мацини, един от архитектите на AI Act, вече признава, че законът е прекалено широк, сложен и „не предоставя необходимата правна сигурност“.

Общественото недоволство принуди Комисията да промени тона си.

Недоволството съвпадна с промяна в приоритетите на Брюксел. От началото на втория мандат на фон дер Лайен, повишаването на конкурентоспособността е нишката, която свързва ключовите ѝ политики.

Междувременно глобалният разговор за AI се промени драстично. Страховете от екзистенциални рискове се превърнаха в надпревара за глобално надмощие - надпревара, доминирана от съперничеството между Вашингтон и Пекин.

За Хена Виркюнен, която оглави ресора за дигитални и авангардни технологии в Комисията през декември, фокусът вече е върху иновациите и привличането на инвестиции, така че Европа да не изостане в AI.

Технологичните гиганти искат от ЕК "най-простия възможен" кодекс за AI

През февруари Брюксел оттегли планираните правила, които трябваше да гарантират по-голяма защита за хората, пострадали от AI системи - т.нар. директива за отговорността при AI - като част от по-широк процес на дерегулация.

Тази седмица променената реторика достигна своя връх с предложението ключовите правила за високорисков AI - сърцевината на AI Act - да бъдат отложени поне с година.

Отлагането е спорно и трябва да бъде одобрено от Европейския парламент и страните членки, които са разделени по въпроса. Освен това забавянето не е безсрочно, както предложи бившият президент на ЕЦБ Марио Драги.

Въпреки това поддръжниците на AI Act смятат хода за крачка назад.

Ким ван Спарентак, евродепутат от Зелените, казва, че ЕС трябва да се гордее, че първи е въвел правила за безопасен AI, което е конкурентно предимство. Япония, Бразилия и щатът Калифорния вече имат подобни изисквания за прозрачност.

„Комисията трябва да застане зад закона и да работи денонощно, за да го превърне в успех“, казва ван Спарентак. „Това означава да водим и бизнеса, и хората в Европа - не да се отказваме от обещанията си при първото оплакване от Тръмп или технологичните гиганти.“

За други, като Бенджио - носител на наградата „Тюринг“ и един от „кръстниците“ на AI - критиките срещу AI Act са просто „пропаганда“ от компании, които не харесват регулациите.

Той твърди, че законът просто формализира протоколи за безопасност, които AI лабораториите вече прилагат, и повишава прозрачността. „Това, което ще направи, е да уеднакви условията, така че всички компании да се издигнат до нивото на най-добрите“, казва той пред FT.

Но е ясно, че Брюксел смята, че има още работа, за да намери правилния баланс между регулация и иновации в AI, така че да изпълни двойната си цел: европейските компании да станат водещи в AI, а ЕС - да задава правилата за останалия свят.

Виркюнен заяви в сряда, че блокът продължава да отстоява високите си стандарти, защото европейската регулация е знак за доверие за бизнеса. „Ние сме единственото място в света, което е изградило рамките по този начин, за да защити нашите ценности и основни права.“

В същото време тя призна, че регулацията сама по себе си не е достатъчна. „Трябва да преминем от създаване на правила към изграждане на иновации. Нашите правила не трябва да са бреме, а добавена стойност.“

Критиците обаче казват, че забавянето на прилагането на закона, обявено в сряда, само ще усложни ситуацията.

Мацини настоява Брюксел да направи цялостно преразглеждане на закона. „Сега е моментът да бъдем смели и да кажем: ‘Добре, трябва да преосмислим всичко.’ Това би било най-мъдрата стъпка.“

Лобизъм в действие: Острата съпротива на САЩ спъва развитието на AI правилата на ЕС

За други е твърде рано да се започва от нулата, когато законът още прохожда.

„Много хора правят прибързани изводи“, казва Ристо Уук, ръководител „Политики и анализи в ЕС“ във Future of Life Institute, който настоява за по-строги защити за високорисков AI. „А това вероятно е преждевременно, защото реално още не сме започнали да го прилагаме.“

Така или иначе, Big Tech успешно наложи в Брюксел наратива, че целите за регулация и за иновации в AI са противоречиви.

Но не е задължително това да е така, казва Ану Брадфорд, професор по право в Колумбийския университет, която измисли термина „Брюкселски ефект“ през 2012 г.

Дискусията за AI Act е „параван“, казва тя, предвид истинските предизвикателства пред европейската конкурентоспособност - фрагментирания единен пазар, недостига на таланти и липсата на достатъчно финансиране за иновации.

„Решението за дефицита на европейската конкурентоспособност не е опростяването. Ние няма да станем AI сила, като просто отменим AI Act“, казва Брадфорд. „Трябва да се борим на по-фундаментални фронтове и да движим напред другите реформи, вместо само да спорим колко да отслабим законодателството.“

Ако не друго, законът поне постави Европа в центъра на глобалния дебат за регулирането на технологията, казва Дан Нечита, който е участвал в преговорите по акта като асистент на един от ключовите му докладчици в Европейския парламент и днес работи във Vanguard Europe.

„Той ни даде място на масата. Даде ни тежест, видимост и влияние, които тогава, за съжаление, нямахме в областта на изкуствения интелект“, казва Нечита.