Изкуственият интелект обещава да ускори научните открития, но все повече университети и академични издания се сблъскват и с предизвикателствата на новите технологии. Изкуственият интелект не само повишава продуктивността на учените, но и увеличава броя на научните публикации за сметка на тяхното качество. Това създава натиск върху системата за научно рецензиране, при която независими експерти оценяват надеждността и качеството на изследванията преди публикуване.

Financial Times разглежда тази тенденция, позовавайки се на нови академични изследвания и мнения на учени.

Клодин Гартенберг, която е доцент в Wharton School към Университета на Пенсилвания и старши редактор на научното списание Organization Science, забелязва промяната още през миналата година. „Започна да изглежда по различен начин. Получавахме повече ръкописи, но качеството им беше по-ниско. Усещахме, че нещо се е променило, но не можехме веднага да разберем какво“, разказва тя пред Financial Times.

Според Гартенберг и колегите ѝ причината е навлизането на генеративния изкуствен интелект в академичната работа. През тази пролет редакционният екип на Organization Science публикува едно от първите систематични изследвания върху влиянието на изкуствения интелект върху академичното публикуване. Проучването носи заглавието „More Versus Better: Artificial Intelligence, Incentives, and the Emerging Crisis in Peer Review“.

Авторите установяват, че след 2022 г. броят на изпращаните статии до списанието е нараснал с 42%. Анализът сочи, че основната причина е по-широкото използване на AI.

FT отбелязва, че проблемът не е само количествен. Чрез инструменти за откриване на AI съдържание и други аналитични методи редакторите установяват, че качеството на постъпващите изследвания е намаляло. Паралелно с това се наблюдава спад и в качеството на рецензиите, като рецензентите все по-често се фокусират върху теоретичната рамка, вместо върху новите резултати и използваните данни.

„Има основателен ентусиазъм около потенциала на AI. Технологията отключва огромни възможности. Но когато наблюдавате какво реално произвежда в практиката, картината далеч не е толкова добра“, казва Гартенберг.

Нови изследвания доказват, че промяната на човешкия наследствен код с висока прецизност вече е възможна. И докато за някои това е шанс за елиминиране на сериозни болести, експертите предупреждават за опасностите от създаване на „дизайнерски бебета“

Науката е на крачка от генно модифицираните бебета, но етичните въпроси остават нерешени

Тези опасения не се ограничават само до едно списание. През март Journal of Economic Literature публикува изследване, съавтор на което е Михаил Великов от Penn State University. Според него AI може да анализира големи масиви от финансови данни и да генерира близо 400 готови за публикуване научни статии само в рамките на 12 часа.

Това поставя под съмнение способността на академичните списания да поддържат качествен контрол върху непрекъснато нарастващия поток от публикации. Изкуственият интелект все по-често се използва и от самите рецензенти.

Лука Фракаша, доцент в Sapienza University of Rome и редактор на научно списание, описва случай, при който изпраща ръкопис за оценка и получава 2127 думи обратна връзка едва 14 минути по-късно. „Подобна скорост е, меко казано, необичайна и поражда сериозни въпроси относно почтеността на процеса на рецензиране“, пише той в LinkedIn.

Публикацията му предизвиква десетки реакции от други учени, някои от които изразяват тревога, че рецензенти качват поверителни научни ръкописи в големи езикови модели като ChatGPT. Това поражда въпроси относно защитата на интелектуалната собственост и поверителността на непубликуваните изследвания.

Ново изследване на института INGENIO и Кеймбридж показва как разговорите с различни AI модели започват от любопитство, но все по-често прерастват в силна емоционална привързаност и дори "планиране" на общо бъдеще

Проучване: Все повече потребители откриват интимни партньори в лицето на AI асистенти като ChatGPT

Последиците могат да бъдат още по-сериозни в области като медицината, отбелязва FT. Изследване, публикувано през февруари и ръководено от Джошуа Уанг от болницата Tzu Chi Hospital в Тайпе, открива методологични слабости в редица медицински публикации, изготвени с помощта на AI върху здравни бази данни.

Авторите посочват, че лесният достъп до големи обеми информация и автоматизирани аналитични инструменти улеснява създаването на слабо проектирани епидемиологични изследвания, което може да навреди на качеството на медицинската литература. Сред рисковете са откриването на статистически връзки без причинно-следствена зависимост, както и т.нар. P-hacking – манипулиране на статистически анализи с цел получаване на привидно значими резултати.

Financial Times отбелязва, че все повече учени се питат дали AI не стимулира създаването на голям обем постепенно натрупващи се, но маловажни изследвания. Това увеличава натоварването върху научните списания и затруднява проследяването на значимите открития.

Въпреки това, мненията в академичните среди не са еднозначни. Джеймс Евънс, ръководител на Knowledge Lab към University of Chicago, вижда голям потенциал в т.нар. „ориентиран към човека изкуствен интелект“, който не само анализира публикуваните научни трудове, но и изучава как успешните учени достигат до нови идеи.

В същото време той предупреждава, че очакванията към изкуствения интелект вече изпреварват реалните доказателства за ефективността му. „Днешният AI за научни цели все още е сътрудник, чиито идеи, резултати и преценка се нуждаят от човешка основа“, пише той в свое изследване.

Пробивът засилва опасенията, че все по-способните AI системи могат да заобикалят традиционните механизми за сигурност

Компания, атакувана от AI модели на OpenAI, определя инцидента като „сигнал за събуждане“

Изкуственият интелект вече влияе и върху организацията на научната работа. Игор Стребулаев от Stanford Graduate School of Business споделя, че AI значително е ускорил събирането и анализа на данни – задачи, които преди са изисквали продължителна работа от екипи изследователски асистенти. Той смята, че това може да промени традиционния модел за обучение на бъдещите учени.

Въпреки това, ефектът не е непременно отрицателен. „За една и съща работа вече са необходими по-малко изследователски асистенти и по-малко от моето време. Но никога не съм бил по-зает, защото вече мога да правя много повече неща, по-добре и по-задълбочено. Това изисква по-голям екип“, казва той пред Financial Times.

Гартенберг също признава потенциала на технологията, но предупреждава, че въздействието ѝ ще се усеща все по-силно в бъдеще. „AI постепенно навлиза във все повече етапи от целия изследователски процес“, казва тя. Именно затова, според нея, академичната общност трябва възможно най-бързо да намери баланс между по-високата продуктивност и запазването на научните стандарти.