Сам Алтман небрежно сподели във вторник в X, че OpenAI планира да позволи NSFW съдържание (not safe for work – съдържание за възрастни) в ChatGPT още през декември. Коментарът му, направен в края на дискусия за психичното здраве на потребителите, повдигна редица въпроси – за сигурността, доверието и за това каква реално е таргет аудиторията на OpenAI.

В изявлението си Алтман обяснява, че компанията възнамерява да въведе система за удостоверяване на възраст, чрез която потребителите ще доказват, че са пълнолетни, преди да имат достъп до подобно съдържание.

Това означава, че ChatGPT може да предлага по-откровени разговори за секс или дори развлекателни функции, като ролеви игри със „съблазнителни“ AI партньори.

xAI на Илон Мъск вече се е насочила към тези среди, припомня Fast Company – с функцията AI Companions, която стартира през лятото в чатбота Grok. Там „премиум“ абонатите имат достъп до NSFW режим, в който ботът може да води сексуално съдържателни разговори.

Компанията облекчава ограниченията за съдържание за възрастни, след като въведе нови инструменти за безопасност и контрол. Все още не е ясно какви материали ще бъдат допустими, но ходът бележи рязък завой в политиката на OpenAI

OpenAI подготвя сериозна промяна: ChatGPT ще позволява „еротика“ за пълнолетни потребители

Алтман формулира подхода на OpenAI по сходен начин:

„Като част от принципа ни ‘третирай възрастните като възрастни’, ще позволим повече свобода – включително еротика за потвърдени пълнолетни потребители.“

Така не е трудно да си представим, че ChatGPT ще последва част от стъпките, които xAI вече предприема.

Тази промяна може да засегне и генераторите на изображения. Мъск вече представи нещо подобно – през август xAI пусна Grok Imagine, генератор на изображения със „spicy mode“, който позволява създаване на еротични визуализации (включително частична голота) чрез текстови команди. Въпросът е дали OpenAI също ще разшири подобен тип свобода, когато става въпрос за останалите си продукти.

Един от тях е Sora 2 – новият генератор на изображения и видеа, който има социална функционалност, подобна на TikTok. В приложението всички видеа и снимки са генерирани от изкуствен интелект. Именно този социален елемент повдига нови въпроси относно подходящото съдържание.

Мъск обеща свободомислещ AI, но получи дигитална кутия на Пандора

Grok на Мъск влиза в „секси“ режим, но xAI има спешна нужда от екип по сигурността

В момента OpenAI строго контролира публикациите в Sora 2 (което все още е достъпно само с покани). Не се допуска никакво сексуално съдържание, а компанията използва комбинация от автоматизирана и човешка модерация, за да открива нарушения. Потребителите могат да сигнализират за неподходящи видеа, а системата разпознава акаунти, които вероятно принадлежат на непълнолетни.

Въпреки това OpenAI признава, че подхожда „итеративно“ към съдържателните си политики – тоест строгите правила днес може да бъдат доста по-леки в бъдеще. Това поражда риск, особено в контекста на използването на реални лица. Една от функциите на Sora е т.нар. cameos – видеа, в които потребителите могат да включат собственото си лице, това на приятели или дори известни личности. Ако NSFW съдържанието бъде позволено в подобна среда, това би могло да отвори врата за злоупотреби, deepfake съдържание и множество етични проблеми.

Ходът на OpenAI да включва авторски материали по подразбиране поставя въпроса дали технологичният прогрес е в състояние да съжителства с правата на създателите – или изкуственият интелект окончателно ще диктува правилата

Sora от OpenAI – нова ера за AI съдържанието или началото на войната с Холивуд?

Алтман признава, че не е очаквал толкова голямо внимание към своя пост за „еротика“. Ден по-късно той уточнява в нова публикация:

„С развитието на изкуствения интелект и ролята му в живота на хората, да дадем повече свобода за използване на технологиите по начин, който хората желаят, е важно за мисията ни. Без да сме назидателни, ще се опитаме да помагаме на потребителите да постигат дългосрочните си цели. Но ние не сме моралната полиция на света. Както обществото прави разграничения (например филмите с R-рейтинг), така и ние искаме да направим нещо подобно.“

Исторически, технологиите винаги са имали страна, предназначена за възрастни – от VHS касетите и VR до социалните мрежи. Приемането на подобен тип съдържание няма да направи ChatGPT по-малко полезен, но със сигурност има потенциал да му донесе милиони нови потребители.