AI реално се проваля: Защо изкуственият интелект и родителите не разбират поколението Алфа
Езикът на най-младото дигитално поколение се променя толкова бързо, че алгоритмите не успяват да го настигнат, а възрастните често не подозират за смисъла зад някои привидно невинни фрази
&format=webp)
Ако чуете представител на поколението Алфа да ви казва „Let him cook“ и си представите кухня или готвач… значи просто сте изостанали от тенденцията. Но не само вие сте объркани – изкуственият интелект също не знае за какво точно става въпрос.
Изследване, представено тази седмица на конференцията ACM Conference on Fairness, Accountability, and Transparency в Атина, разкрива колко трудно водещите езикови модели на AI разчитат „диалекта“ на поколението, родено между 2010 и 2024 година.
Автор на изследването е бъдещата деветокласничка Маниша Мехта, която заедно с още 24 свои приятели (на възраст между 11 и 14 години) създава уникален речник със 100 фрази от езика на поколението Алфа.
Пример за подобна фраза със сигурност е „Fr fr let him cook“, което всъщност означава подкрепа. „Let him cook lmaoo“ обаче е подигравка...
Същите думи, но коренно различен смисъл. AI се обърква. А родителите? Можем да кажем същото и за тях.
Моделите GPT-4, Claude, Gemini и LLaMA 3 се провалят в разпознаването на нюансите в изразите, особено когато става въпрос за „маскиран тормоз“ – новата форма на дигитална агресия, която изглежда безобидно за възрастните, но носи токсични послания сред връстници.
„Резултатите подчертават спешната нужда от подобрени AI системи за безопасност, особено като се има предвид склонността на Gen Alpha да избягва да търси помощ заради усещането, че възрастните не разбират техния дигитален свят“, се казва в доклада.
Но изследването не е лоша новина само за AI. Родителите също не се справят особено впечатляващо – оценката им по разбиране на езика на поколението Алфа е 68%, почти идентична с най-добре представилия се езиков модел – Claude (68.1%).
Само че самите деца се справят с много по-високи резултати – както в разпознаването на значения, така и на потенциални рискове в комуникацията.
Как изглежда реалността в коментарите? Можем да направим сравнение:
“OMGG you ate that up fr” – истински комплимент.
“You ate that up ig 💀” – саркастичен, подигравателен отговор.
Без разбиране на контекста, тонът остава невидим. А това означава, че родителите могат да разпознаят едва 1 от 3 случая, в които детето им е жертва на подигравки или тормоз – дори ако активно следят комуникацията му онлайн.
Gen Alpha диалектът не просто се променя бързо – той създава нов език, роден в онлайн пространствата на игрите, TikTok и мийм културата. И тук не става дума само за разбиране, а за ефективна защита в дигиталното пространство.
AI системите, които трябва да модерират съдържание и да пазят децата онлайн, не говорят техния език. Това поставя под съмнение надеждността на автоматичната модерация, базирана на алгоритми, които не могат да уловят ирония, пасивна агресия или кодирани послания.
Маниша Мехта и екипът ѝ – всички на възраст под 15 – демонстрират нещо, което големите технологични компании тепърва ще трябва да усвоят: реалната защита на децата онлайн започва с езиков превод.
И ако искаме следващото поколение да бъде чуто и защитено, трябва първо да го разберем. Fr fr…