Текстовете на хората започват да си приличат. Следите водят към AI

Живар Сурати често изпитва дежавю, докато чете нови научни разработки в своята област - компютърните науки.

„Чета някоя статия и си казвам: ‘Това вече съм го виждал’“, споделя той пред изданието Nature.

Според Сурати, докторант в Университета на Южна Калифорния, новите публикации все по-често изглеждат еднакво и губят индивидуалните особености на авторите си.

Той подозира, че причината е изкуственият интелект. С навлизането на големите езикови модели (LLM) в писането стилът също започва да се уеднаквява.

Сега Сурати и други изследователи проверяват дали тези впечатления могат да бъдат доказани. Те проучват доколко генеративният AI - системи, които създават текст, изображения и друго съдържание - уеднаквява културата и мисленето ни.

В научна публикация от март Сурати и съавторите му сравняват явлението с т.нар. „макдоналдизация“ - идеята, че характеристики на индустрията за бързо хранене като ефективност и предвидимост постепенно са се пренесли и върху обществото, правейки го по-еднообразно.

Според учените генеративният AI се различава от предишните технологии, които основно разпространяваха информация, защото активно влияе върху начина, по който тя се създава.

Изследвания показват, че AI инструментите могат да уеднаквяват езика, творчеството и културните ценности. Има данни и че технологията може да влияе върху решенията, поведението и мненията ни.

Колко сериозен е този проблем и как може да бъде ограничен?

Засега уеднаквяването, свързано с AI, не е преобърнало обществото и може никога да не стигне дотам. Сурати обаче си представя най-лошия дългосрочен сценарий - хората постепенно да загубят част от способността си да се адаптират.

„Това наистина ме плаши.“

Музикални издатели съдят Anthropic заради кражба на десетки хиляди защитени с авторски права песни

Превземане на мисленето

Емили Венгер, специалист по компютърни науки в Университета Дюк, смята, че рискът от подобно уеднаквяване е фундаментален.

„Ако всички използваме AI, за да пишем имейлите си или каквото и да било друго, в какво се превръщаме като вид?“

Според нея съществува риск да попаднем в капана на груповото мислене.

„Като общество сме страдали, когато сме заглушавали или пренебрегвали гласовете в периферията.“

Венгер изследва доколко AI моделите произвеждат сходни творчески идеи. Заедно с колега тя тества 22 големи езикови модела и 102 души в три творчески задачи. Една от тях проверява дивергентното мислене, като участниците трябва да измислят алтернативни приложения на обикновени предмети.

Кой ще даде портфейл на AI? Българският стартъп Yugo и инфраструктурата зад плащанията през агенти

Оказва се, че езиковите модели дават малко по-оригинални идеи от хората, ако оригиналността се измерва според това колко силно отговорът се различава по смисъл от самия въпрос. Но отговорите на различните модели си приличат много повече, отколкото тези на хората.

Друг екип анализира сюжетите, героите, местата на действие и други елементи в кратки разкази, написани от хора и от пет езикови модела. Историите, генерирани от AI, се оказват значително по-близки една до друга, докато човешките показват много по-голямо разнообразие.

Работата с AI може да пречи на разнообразието в човешкото творчество.

В проучване от 2024 г. участници пишат кратки разкази от осем изречения по зададени теми. Част от тях предварително могат да поискат идеи от езиков модел.

С помощта на AI историите са оценени като по-оригинални и приятни за четене - с изключение на написаните от най-талантливите автори. В същото време обаче разказите стават по-сходни помежду си.

Подобен резултат дава проучване от 2025 г. с задачи за генериране на идеи. Участниците, които използват ChatGPT, предлагат по-креативни решения според оценяващите ги хора, но разнообразието между идеите намалява.

Няколко скорошни метаанализа, които обединяват резултатите от множество изследвания, стигат до сходни изводи. Един от тях, публикуван през април, установява, че ефектът на уеднаквяване е най-силен при генерирането на идеи, особено когато задачите са сложни или поставят повече ограничения.

Този ефект вече се наблюдава и извън лабораторни експерименти.

Едно проучване анализира над 400 000 научни публикации в базата Web of Science. След появата на ChatGPT в края на 2022 г. броят на статиите на автор се увеличава, но паралелно с това нараства сходството както в съдържанието, така и в езиковия стил.

Други учени се фокусират върху самия език.

Сурати и колегите му анализират местни новинарски публикации, научни текстове в arXiv и постове в Reddit. След появата на ChatGPT различията между стиловете на писане започват да намаляват.

Изследователите възпроизвеждат ефекта, като използват големи езикови модели само за граматическа редакция на текстове, написани от хора.

Дори тази намеса заличава част от езиковите особености, които носят информация за характера, моралните ценности и демографските характеристики на автора.

Генеративният AI може да притъпява и културните различия.

В едно проучване хора от Индия и САЩ трябва да опишат любимите си ритуали, герои и символи, както и да напишат имейл така, че от него да личат ценностите им.

Близо 90% от новите научни статии са писани с помощта на изкуствен интелект

Половината използват функция за автоматично довършване на текста, която при всяко спиране предлага до девет следващи думи.

AI увеличава сходството както между самите индийци и самите американци, така и между двете групи. Езикът на индийските участници започва да звучи по-американски.

Изчезват и част от конкретните културни детайли. Описанията например на индийския празник Дивали стават по-общи и безлични.

Съдържанието, създадено от AI, може да влияе и върху възгледите на хората, които го четат.

Проучване преди президентските избори в САЩ през 2024 г. установява, че големи езикови модели показват пристрастие в полза на първоначалния кандидат на демократите Джо Байдън спрямо републиканеца Доналд Тръмп. Разговорите с моделите по политически теми пък карат част от поддръжниците на Тръмп да го оценяват по-негативно, пише Nature.

Според Мор Нааман, специалист по информационни науки в Cornell Tech в Ню Йорк и съавтор на изследването за автоматичното довършване на текст, генеративният AI създава както културен, така и когнитивен империализъм.

По думите му автоматичното довършване може да доведе до своеобразно „превземане на съзнанието“, като променя начина, по който хората мислят.

Goldman Sachs проучи къде AI вече оказва натиск върху заетостта. Ето какви са резултатите

В едно от изследванията му участниците пишат за социалните мрежи с помощта на езиков модел. Без тяхно знание моделът предварително е инструктиран да защитава тезата, че социалните мрежи са или полезни, или вредни.

Това влияе не само върху написаното от участниците, но и върху собствените им нагласи в анкета след експеримента.

В следващ експеримент възгледите им по теми като смъртното наказание също се изместват към позицията, заложена предварително в модела. Ефектът се запазва дори седмици по-късно и дори когато участниците са били предупредени, че AI може да е пристрастен.

Друг екип разделя участниците на две групи. Половината използват ChatGPT в продължение на пет дни при задачи, които проверяват творческите им способности, а другата половина работи без AI.

Два месеца по-късно всички отново решават задачи, този път без достъп до AI. Онези, които преди това са използвали ChatGPT, продължават да дават по-сходни отговори помежду си.

Изследователите наричат това „творчески белег“.

Сурати описва въздействието на AI върху мисленето чрез романа на Джордж Оруел 1984.

„Начинът, по който говориш, влияе върху начина, по който разсъждаваш“, казва той.

С други думи, ако AI накара всички да говорят по сходен начин, съществува риск да започнат и да мислят по-сходно.

Основателят на KPMG NewTech: До 5 години Европа може да има АI гигант

Осредняването

Според експертите уеднаквяването на AI съдържанието и последващото му влияние върху начина, по който мислят хората, има както технически, така и психологически причини.

Когато генеративен модел не успява да предложи достатъчно разнообразни резултати, явлението се нарича mode collapse.

То може да възникне по няколко причини. Една е недостатъчното разнообразие в данните, върху които моделите се обучават. Друга е, че системите получават награда за това да предвиждат най-вероятните модели и отговори, а не за идеи, които се отклоняват от очакваното.

Освен това моделите се дообучават така, че да удовлетворяват човешките оценители, които обикновено не поставят оригиналността сред основните си критерии.

Съществува и различно явление, наречено model collapse.

Определенията варират, но най-общо става дума за деградация, която възниква, когато един модел се обучава върху съдържание, произведено от самия него или от други AI системи, пише Nature.

Това вероятно ще се случва все по-често, тъй като интернет се изпълва с нискокачествено съдържание, генерирано от AI. След няколко поколения подобно обучение качеството и разнообразието на резултатите могат да започнат да намаляват.

Дори без такъв срив AI системите могат активно да насочват човешката култура към по-еднообразен стил, близък до собствения им.

Изследвания показват, че големите езикови модели дават по-високи оценки на автобиографии и други текстове, създадени от самите тях, отколкото на материали, написани от хора или от други модели. Това би могло да създаде стимул и ние да започнем да пишем така, че да се харесаме на AI, посочва още Nature.

На психологическо ниво, казва Нааман, хората често следват посоката, зададена от езиковия модел, защото го възприемат или като отражение на мнението на останалите, или като авторитет, който знае най-добрия отговор.

Когато използват AI в собствената си работа, те могат да възприемат генерираното съдържание и като отчасти свое. А хората обикновено приспособяват нагласите си към начина, по който възприемат собственото си поведение. Така постепенно могат да приемат и гледната точка на модела.

Рецептата за перфектния Pringles вече включва дигитален близнак

Как да запазим разнообразието

Изследователите вече предлагат и тестват различни решения.

Първата стъпка би била да се увеличи разнообразието на данните, използвани за обучение на моделите.

Друг подход е да се промени самият процес на обучение. Един екип например разработва система, наречена Diversity-Aware Reinforcement Learning (DARLING), която възнаграждава моделите за отговори, които едновременно са качествени и се различават от останалите.

Резултатът е подобрение както на качеството, така и на разнообразието.

Възможно е и вече обучените модели да бъдат подтиквани по различен начин.

Изследователи от Meta и Масачузетския технологичен институт карат езиков модел първо да разпознае какъв тип проблем трябва да реши - например математическа задача или творческо писане - а след това сам да избере инструкция, която насърчава разнообразието.

При задача по алгебра например моделът може да бъде инструктиран да предложи няколко различни начина за достигане до решението.

Този подход увеличава разнообразието на отговорите, без да понижава качеството им.

Други учени постигат сходен ефект чрез случайни входни данни или като карат моделите да влизат в ролите на хора от различни култури.

Предлага се и потребителите да дават повече социален и културен контекст в инструкциите си или примери от собствения си стил на писане, така че моделът да запази индивидуалния им глас.

AI увеличава броя на академичните изследвания за сметка на качеството им, предупреждават учени

Според изследователите AI може да се използва не само за ограничаване на уеднаквяването, но и за увеличаване на културното и когнитивното разнообразие.

Някои хора могат да използват технологичта, за да произвеждат огромни количества безлично и нискокачествено съдържание. Други могат да го превърнат в инструмент, който разширява собствените им възможности за изразяване.

Алберто Ачерби, когнитивен антрополог в Университета на Тренто в Италия, е сравнително оптимистично настроен.

Той дава за пример историята на глобализацията. В резултат от нея броят на използваните езици намалява, но едновременно с това на други места възникват нови микрокултури.

Дали глобализацията намалява разнообразието зависи от това какво точно измерваме.

Като цяло, казва Ачерби пред Nature, „културите изглеждат доста устойчиви срещу прекомерното уеднаквяване“.

Една от причините е, че хората често съзнателно избягват конформизма и търсят свои собствени ниши. Този стремеж може да стане още по-силен, когато съществува риск написаното от човек да бъде объркано с машинно генериран текст.

Все по-често например хората съзнателно избягват думи и изрази, които свързват с големите езикови модели.

„Вече има анти-AI движение“, казва Нааман. „Може да стигнем и до друго бъдеще - такова, в което ще трябва да бъдем наистина креативни, за да се отличим.“