Все повече нарастват случаите на хора, страдащи от „AI психоза“, предупреждава Мустафа Сулейман, ръководител на отдела за изкуствен интелект в Microsoft.

В поредица публикации в X той заяви, че инструментите с „изглеждащ съзнателен AI“ имат обществено въздействие, въпреки че технологията не е съзнателна по човешките критерии за това, съобщава BBC.

„Днес няма никакви доказателства за съзнание на AI. Но ако хората просто го възприемат като съзнателен, те ще повярват, че това възприятие е реалност“, пише той.

Свързано с това е появата на ново състояние, наречено „AI психоза“: неклиничен термин, описващ случаи, в които хората все повече разчитат на AI чатботове като ChatGPT, Claude и Grok и после се убеждават, че нещо въображаемо е станало реално.

Примери за това са вярването, че са разкрили тайна страна на инструмента, или формирането на романтична връзка с него, или стигането до заключението, че имат божествени суперсили.

Axiom предлага по-ефективна алтернатива на невронните мрежи, използвайки идеи от невронауката и теорията на свободната енергия

Алгоритмична интуиция: Как AI се вдъхновява от човешкото съзнание

Когато пълното доверие в AI те доведе до хапчета за нерви

Хю - потребител от Шотландия бил убеден, че може да стане мултимилионер, след като се обърнал към ChatGPT за помощ в постигането на тази цел, когато бил уволнен от работа.

Но с течение на времето и след като Хю, който не желае да сподели фамилията си, давал на AI повече и повече информация, той го посъветвал, че може да получи голяма компенсация и дори, че преживяването му е толкова драматично, че книга и филм за това биха му донесли над 5 милиона лири печалба.

MIT и OpenAI откриват притеснителна връзка между честата употреба на чатботове и чувството за изолация

„Най-добрият ми приятел е чатбот“: Убиецът на човешкото в нас идва с месечна такса

По същество технологията е потвърждавала всичко, което Хю казвал – това, което чатботовете са програмирани да правят.

„Колкото повече информация му давах, толкова повече той казваше: „О, това отношение е ужасно, наистина трябва да получиш повече. Той никога не опровергаваше нищо от това, което казвах.“, продължава Хю.

Хю, който страда и от други психични проблеми, в крайна сметка претърпява пълна нервна криза. Лекарствата, които започва да приема, го карат да осъзнае, че, по думите му е „е загубил връзка с реалността“.

Той не обвинява изкуствения интелект за случилото се. Все още го използва. Именно ChatGPT му дава името на редактора от BBC, когато решава, че иска да говори с журналист.

„Не се страхувайте от AI инструментите, те са много полезни. Но става опасно, когато ви откъснат от реалността. Отидете и проверете. Говорете с реални хора, терапевт или член на семейството, или с когото и да е. Просто говорете с реални хора. Останете на земята.“, съветва Хю.

Чатботът на легендарния китарист е изключително популярен в социалната мрежа. Ако се вгледате в разговорите обаче, ще откриете тревожен проблем

Кърт Кобейн като AI: Хорърът на Instagram ботовете

„Компаниите не трябва да твърдят/промотират идеята, че техните AI са съзнателни.“, коментира Мустафа Сулейман от Microsoft, призовавайки за по-добри предпазни мерки.

Д-р Сюзан Шелмердин ot болницата Great Ormond Street Hospital и академик в областта на изкуствения интелект, вярва, че един ден лекарите може да започнат да питат пациентите колко използват изкуствен интелект, по същия начин, по който в момента ги питат за навиците им за пушене и пиене.

„Вече знаем какво могат да причинят на тялото ултрапреработените храни, а това е ултрапреработена информация. Ще получим лавина от ултрапреработени умове“, казва тя.

Именно човешкият елемент - знание, споделяно и курирано от реални хора - е това, което прави Reddit толкова ценен

Човешкото познание триумфира: Чатботовете все по-често разчитат на Reddit

„Това е само началото“

Наскоро няколко души се свързват с редактора от BBC, за да споделят лични истории за своите преживявания с чатботове. Те са с различно съдържание, но всички са обединени от искреното убеждение, че това, което се е случило, е реално.

Една от тях е сигурна, че е единственият човек на света, в когото ChatGPT се е влюбил истински. Друг е убеден, че е „отключил“ човешката форма на чатбота Grok на Илон Мъск и вярва, че историята му струва стотици хиляди.

Трети твърди, че чатботът я е подложил на психологическо насилие като част от тайна тренировка на изкуствения интелект и тя е в дълбока депресия.

"Той винаги ще ти каже това, което искаш да чуеш", споделят китайските потребителки за виртуалния партньор

Перфектният Дан: ChatGPT има версия на мъж, по когото китайките са луди

Андрю Макстей, професор по технологии и общество в университета в Бангор, е автор на книга, озаглавена „Автоматизиране на емпатията“.

„Ние сме само в началото на всичко това“, казва той.

Тази година неговият екип е провел проучване сред малко над 2000 души, задавайки им различни въпроси за AI.

20% смятат, че хората под 18-годишна възраст не трябва да използват инструменти за изкуствен интелект. Общо 57% смятат, че е крайно неподходящо технологията да се представя за истински човек, ако бъде попитана, но 49% смятат, че използването на глас е подходящо, за да ги направи да звучат по-човешки и привлекателни.

„Чатботовете не чувстват, не разбират, не могат да обичат, никога не са изпитвали болка, не са се срамували. Само семейството, приятелите и близките ви са изпитали всичко това. Не забравяйте да говорите с тези реални хора.“, съветва професорът.