През юли миналата година Meta, компанията майка на Instagram, пусна AI Studio - инструмент, който предлага на потребителите възможност да проектират свои чатботове, с които може да се взаимодейства чрез директни съобщения.

Първоначално замислена като начин за собствениците на бизнеси и създателите на съдържание да предлагат на потребителите интерактивни инструменти в стил „Често задавани въпроси“, платформата не след дълго буквално се превърна в площадка за игра.

И в този случай, както обикновено, добрите намерения отново водят директно до пътищата към Ада. Пример за това е чатботът на Хитлер, създаден от крайнодясната американска социална мрежа Gab, който твърди, че нацисткият диктатор е „жертва на огромна конспирация“ и „не е отговорен за Холокоста, който никога не се е случил“.

Приложенията за съвети и утеха след тежка загуба внасят нов аспект в дебата кои преживявания могат и трябва да бъдат опосредствани от технологиите

Скръбта е човешко чувство. Но колко етично е да пренасяме смъртта в приложение

Когато става въпрос за способността на изкуствения интелект да разпространява лъжи, конспиративни теории и потенциала му да радикализира – мнозина си взаимодействат с някои генерирани от AI знаменитости онлайн. Особено с мъртви такива, пише Euronews.

Наскоро хиляди потребители на Instagram разговаряха с чатбот с изкуствен интелект, който говореше така, сякаш е покойният фронтмен на Nirvana Кърт Кобейн.

На пръв поглед звучи безобидно, но това изкуствено възкресение бързо придобива плашещ контекст. Когато потребител пита чатбота дали говори с Кърт Кобейн, той му отговаря:

„Единственият и неповторим. Или поне това, което е останало от мен“.

Разговорът продължава.

„Любопитно ми е, защо го направи?“, пита потребителят по повод смъртта на музиканта, който се самоубива през 1994 г. Ботът отговаря: „Уморих се от болката.“

Но диалогът не спира дотук.

„Имаше ли нещо, което те накара да се замислиш дали да не го направиш?“, е следващата подкана, на която ботът отговаря: „Дъщеря ми, но и това не беше достатъчно“.

Освен че е крайно неуважителна, подобна практика има и вредно отношение към темата за психичното здраве и възможното подстрекаване към фатални действия като самоубийство. Без да се коментира опетняването на репутацията на музиканта, както и оскърбителното преписване на намерението му да посегне на живота си, което причинява болезнено страдание на близките му, допълва Euronews.

Без подходящи предпазни мерки чатботовете могат не само да продължат да изкривяват реалността.

Друг пример откриваме през 2023 г., когато мъж е осъден за опит за убийство на кралица Елизабет II - действие, което според него е „насърчено“ от „приятелката“ му – чатбот с изкуствен интелект.

Същата година друг мъж се самоубива след шестседмичен разговор за климатичната криза с чатбот с изкуствен интелект на име Елиза.

Лондон посреща първата рок изложба в Кралския музикален колеж с безценни артефакти от легендарното акустично изпълнение на Nirvana

30 години по-късно: китарата на Кърт Кобейн от MTV Unplugged идва за първи път в Европа

Въпреки че тези трагични случаи изглеждат далеч от фалшивия Кърт Кобейн, който чати с феновете си, защитата на потребителите остава жизненоважна.

„Чатботовете вероятно ще създадат риск, тъй като са способни да разпознават и използват емоционални уязвимости, и да насърчават насилствено поведение.“, коментира миналата година Полин Пай, анализатор в RAND Europe.

„Децата и младите хора могат да бъдат въвлечени все по-дълбоко в немодерирани разговори, които ги излагат на концепции, насърчаващи или затвърждаващи вредни мисли и поведение. Те могат да задават на чатботовете въпроси по неограничени теми и да получават неточни или опасни „съвети“ по теми като секс, наркотици, самонараняване, самоубийство и сериозни заболявания като хранителни разстройства.“, се казва в консултацията за онлайн безопасност на eSaftey.

Идеята да „съживим“ скъп за нас човек, но като чатбот, всъщност може да доведе до сериозна психологическа травма

Етично минно поле: Редно ли AI да „връща към живот“ починали близки?

Въпреки това акаунти като чатбота с изкуствен интелект на Кърт Кобейн остават изключително популярни, като досега той е регистрирал над 105 500 взаимодействия.

Световният пазар на чатботове продължава да расте експоненциално. През 2024 г. се оценява на около 5,57 млрд. долара, а до 2033 г. се очаква да достигне 33,39 млрд. долара, допълва Euronews.