Amazon е пълен с книги, чиято целева аудитория са хората с ADHD. Всички тези материали претендират, че предлагат на хората с този проблем експертни съвети, но всъщност изглеждат написани от чатботове като ChatGPT.

Онлайн пазарът отдавна е известен с лесното и не особено скъпо публикуване на AI-създадено съдържание – от некачествени пътеводители до ръководства за бране на гъби, които включват опасни съвети за дегустация.

Сега нова тревожна вълна завладява нишата на здравните теми: книги за ADHD, които според експерти носят риск от разпространение на невярна или дори опасна информация за хора с подобни състояния.

Сред заглавията, които предлагат съвети по темата, са Navigating ADHD in Men: Thriving with a Late Diagnosis, Men with Adult ADHD: Highly Effective Techniques for Mastering Focus, Time Management and Overcoming Anxiety и Men with Adult ADHD Diet & Fitness.

По поръчка на The Guardian, американската компания Originality.ai анализира осем подобни книги и установява със 100% сигурност, че съдържанието е генерирано от изкуствен интелект.

Бестселърът, който никога не съм писал: Как AI предизвиква творческия свят

„Дивият запад“ на дигиталното книгоиздаване

Експертите предупреждават, че онлайн платформите вече наподобяват „дивия запад“ именно заради липсата на регулации за AI-създадено съдържание. Това създава предпоставки за широко разпространение на дезинформация, особено когато става въпрос за здравни и медицински теми.

Майкъл Кук, изследовател по компютърни науки в King’s College London, коментира, че генеративните AI системи често дават на потребителите опасни съвети – включително за консумация на токсични вещества или игнориране на здравни указания.

Според него е „разочароващо и доста тревожно“, че книги, създадени от изкуствен интелект, все по-често се появяват в дигиталните платформи, особено по толкова чувствителни теми като ADHD.

„Да, тези системи са обучавани върху медицински текстове, но и върху псевдонаука, конспиративни теории и художествена литература. Те не могат да се ползват като надежден източник за чувствителни въпроси без надзор от експерт“, казва Кук.

Той добавя, че бизнес моделът на Amazon само засилва този така или иначе наболял проблем, защото платформата печели от всяка покупка, без значение дали съдържанието е надеждно. Генеративните AI компании също не носят отговорност за крайния продукт.

„AI на първо място“: Изместват ли алгоритмите хората в корпоративния свят

Проф. Шанън Валор, директор на Центъра за техноетични изследвания в Университета на Единбург, подчертава, че Amazon има морален ангажимент да не допуска разпространението на вредно съдържание.

По нейно мнение е „абсурдно“ да се очаква книжарница да носи отговорност за всяка книга, но проблемът е, че традиционните контролни механизми в издателския свят – репутация, проверка на авторите и ръкописите – са почти разрушени заради AI технологиите.

Валор отбелязва, че регулациите не са наваксали с развитието на технологиите и липсват сериозни последствия за тези, които причиняват вреди. Това, според нея, води до „надпревара към дъното“ в качеството на съдържанието.

Към момента няма законови изисквания книгите, създадени от изкуствен интелект, да бъдат отбелязани като такива. От Службата за рекламни стандарти напомнят, че не е позволено AI-книги да се рекламират по начин, който заблуждава клиентите, че са написани от човек.

Дайте на AI списък с любимите си книги – може да ви изненада с предложения, които не сте очаквали

Ричард Уърдсуърт, диагностициран с ADHD в зряла възраст, си е закупил препоръчана книга от Amazon. Още с първите страници разбира, че нещо не е наред – книгата започва с цитат от консервативния психолог Джордан Питърсън и продължава с хаотични анекдоти и исторически неточности.

Някои съвети дори са опасни.

В глава за емоционална нестабилност се твърди, че приятелите и семейството не прощават нанесените емоционални щети и че „болката и раните от импулсивния гняв оставят трайни белези“.

След като проверява произхода на автора, Уърдсуърт открива, че снимката му изглежда AI-генерирана, а квалификации липсват. При по-нататъшно проучване попада на книги, които описват ADHD като „катастрофално състояние“ и твърдят, че хората с диагнозата са „четири пъти по-склонни да умрат значително по-рано“.

„Ако баща ми, който е изключително образован, може да бъде подведен от подобна книга, значи всеки може. Такива книги пълнят главите на отчаяни хора с опасни глупости, докато Amazon прибира своя дял“, казва той.

От Amazon заявяват, че разполагат с ясни насоки за съдържанието, което се допуска за продажба, и че използват различни методи за засичане на нарушения.

„Продължаваме да подобряваме защитата си срещу съдържание, което не отговаря на стандартите ни, и ще адаптираме процесите си спрямо промените в издателската индустрия“, добавят от компанията.