Стартъпът за изкуствен интелект xAI на Илон Мъск съобщи, че чатботът Grok вече няма да създава сексуални изображения на реални потребители в социалната мрежа X, след седмици на критични реакции и регулаторни разследвания.

„Внедрихме технологични мерки, за да попречим на акаунта Grok да позволява редактирането на изображения на реални хора в разголени дрехи“, се казва в публикация, споделена чрез акаунта X Safety. „Това ограничение важи за всички потребители, включително платените абонати.“

В публикацията се казва и че редактиране на изображения чрез Grok ще бъде достъпно само за платени абонати.

„Много скоро ще разполагаме с водещите в света модели за изкуствен интелект във всяка некласифицирана и класифицирана мрежа в нашето ведомство“, заяви американският министър на отбраната Пит Хегсет

Забраните на Grok не отказват Пентагона от внедряването на чатбота

Съобщението дойде часове след като главният прокурор на Калифорния Роб Бонта заяви, че разследва xAI, със седалище в Силициевата долина, за „мащабно производство на дийпфейк интимни изображения без съгласие“.

„Решението на xAI да създаде и поддържа хранилище, където се разпространяват несъгласувани сексуално експлицитни дийпфейк изображения, включително такива, които дигитално събличат деца, е злонамерено.“, написа в пост в X губернаторът на Калифорния Гавин Нюсъм, поддръжник на Илон Мъск.

През последните седмици бяха обявени разследвания в Индия, Малайзия, Индонезия, Ирландия, Обединеното кралство, Франция и Австралия, както и от ЕК.

Индонезия и Малайзия наложиха временна забрана на Grok, отбелязва CNBC.

Великобритания също се готви за подобна крайна мярка. Причината е, че чатботът генерира сексуални изображения от снимки на реални потребители в X

За първи път в света: Малайзия и Индонезия блокираха Grok на Илон Мъск

Мерките бяха предприети фона на разпространената критика, че Grok е позволил на потребителите на X лесно да генерират сексуални и насилствени изображения въз основа на реални снимки в социалната мрежа чрез прости текстови команди.

В САЩ трима сенатори от Демократическата партия призоваха Apple и Google да премахнат приложенията X и Grok от своите магазини, докато компанията не направи промени, които да предотвратят лесното създаване на несъгласувани експлицитни изображения.

По-рано в сряда Илон Мъск заяви, че „с активирана опция NSFW, Grok трябва да позволява голота на горната част на тялото на въображаеми възрастни хора (не реални)“, и сравни подобно съдържание с това от филмите с рейтинг R (за пълнолетни зрители). Настройките на Grok, отбеляза той, също „ще варират в други региони в зависимост от законите на всяка страна“.