Изборите за кмет в Ню Йорк със сигурност ще бъдат запомнени с впечатляващата победа на младия демократичен социалист Зохран Мамдани. Друг отличителен белег обаче е навлизането на AI-генерираните видеа в политическите кампании.

Андрю Куомо, който загуби от Зохран Мамдани по време на вота миналата седмица, активно разпространява дийпфейк видеа за своя опонент – включително и видео, което породи обвинения в расизъм – знак колко бързо технологията се превръща в част от изборите.

Но изкуственият интелект не е новост в политиката – кампаниите от години използват алгоритми за таргетиране на избиратели, а понякога и за писане на политики. С напредъка на софтуера обаче се появява нова тенденция: генерирани снимки и видеа, които могат да бъдат заблуждаващи за зрителя.

„Това, което наистина проби през този изборен цикъл, е използването на генеративен изкуствен интелект за съдържание, което директно достига до избирателите“, казва Алекс Борес – щатски представител на Ню Йорк и водещ глас в регулирането на AI, пред The Guardian.

„Било то планът за жилищата на Куомо, написан от ChatGPT, или неговите и други AI-видеореклами – всичко това вече е достигнало едно ново ниво, което досега не сме виждали“, допълва той.

Опитът на 35-годишната Зара Рахим започва от щаба на Барак Обама, но преминава и през лъскавата общност на Vogue, а накрая достига до „бащи от Бангладеш и лели от Западна Африка, които никога не са гласували в първични избори за кмет“

Да изковеш перфектната стратегия: Млад PR талант стои зад победата на Зохран Мамдани в Ню Йорк

Бившият кмет на Ню Йорк Ерик Адамс, който се оттегли от надпреварата през септември, използва AI за автоматизирани обаждания с глас, който звучи точно като неговия, но говори на езици като мандарин, урду и идиш. Кампанията му публикува и видео, което представя Ню Йорк като военна дистопия, с цел да атакува Мамдани.

Куомо пък е обвинен в расизъм и ислямофобия, след като публикува видео, в което генерирана версия на Мамдани яде ориз с ръце, докато чернокож мъж краде от магазин. В рекламата имаше и друг чернокож персонаж – с лилава риза, кожено палто и сребърна пръчка – който „одобрява“ трафика на хора. Кампанията на Куомо изтри видеото и заяви, че то е публикувано „по погрешка“.

Според Борес голяма част от AI-рекламите са „по-склонни“ да навлизат в расистки или дискриминационни внушения.

Той подчертава: „Трябва да следим дали това идва от стереотипите в данните, върху които се тренират алгоритмите, или просто защото е прекалено лесно да манипулираш съдържанието. Не трябва да казваш на актьор от определена раса да прави нещо – просто го създаваш с компютър.“

В щата Ню Йорк кампаниите трябва да обозначават AI-генерираните реклами, но някои – включително изтритото видео на Куомо – не го правят.

Пазарът вече е вложил очакванията си в бъдещия успех на изкуствения интелект. Ако реалните бизнес резултати не се появят скоро, стойностите на компаниите, зависими от AI, могат да паднат рязко и корекцията да бъде болезнена

Голямото AI изтрезняване: Следващата година ще покаже дали изкуственият интелект е скок напред – или скъп експеримент

Бордът на изборите може да наложи санкции, но Борес отбелязва, че много кампании са готови да поемат риска.

„Ако спечелят и платят глоба след това, няма да им пука. Ако загубят – пак няма значение. Затова трябва да има механизъм за бързо сваляне на подобни материали преди изборите, а не само наказания след това“, казва той.

Робърт Уайсман, съпредседател на Public Citizen – организация, която участва в прокарването на AI-регулации из САЩ – отбелязва, че в повече от половината щати вече е незаконно да заблуждаваш избиратели чрез изкуствен интелект, който не е обозначен като такъв.

Но според него предизвикателството все пак е огромно:

„Лъжите винаги са били част от политиката. Това обаче е различно. Когато видиш на екрана автентично изглеждащо видео с човек, който „казва“ нещо, после е почти невъзможно да повярваш, че това не е истина.“

Технологичните гиганти се нуждаят от колосална сума, за да финансират бума на изкуствения интелект. Ето сложния механизъм, чрез който се опитват да осъществят това

AI революцията не зависи само от алготиртми, а от финансов инженеринг на стойност $1,5 трлн.

Не всички кампании обаче се справят с използването на AI-генерирани видеа – защото някои от тях просто не са достатъчно убедителни. Видеото „Zohran Halloween Special“, публикувано от Куомо (и този път с обозначение, че е AI-генерирано), показва толкова зле направена версия на Мамдани, че звукът не е в синхрон, а текстът е напълно безсмислен.

С наближаването на междинните избори и президентските през 2028 г. AI-видеата очевидно остават в играта.

Те вече навлязоха и на национално ниво: Илон Мъск споделя AI-видео за Камала Харис през юли 2024 г., в което тя нарича себе си „ultimate diversity hire“ и твърди, че „няма представа как се управлява държавата“.

Въпреки че отделни щати напредват с регулациите, на федерално ниво почти няма движение.

По време на протестите „No Kings“ през октомври Доналд Тръмп публикува AI-видео, в което прелита с изтребител и залива американци с кафеникава течност – което е просто поредното AI-генерирано съдържание.

С оглед на това, че очевидно формата се харесва на Тръмп, не се очаква Републиканската партия скоро да поиска затягане на правилата.