Малайзия и Индонезия са блокирали достъпа до AI чатбота Grok на Илон Мъск.

Инструментът на платформата X позволява на потребителите да генерират изображения, но наскоро е започнало използването му за редактиране на изображения на реални хора, показващи ги без дрехи.

Страните от Югоизточна Азия заявяват, че Grok може да се използва за създаване на порнографски и несъгласувани изображения, включващи жени и деца.

Те са първите в света, които забраняват AI инструмента, отбелязва BBC.

Потребители отбелязват, че в поредица от вече изтрити отговори чатботът почти винаги поставя Мъск на първо място във всяка област

Grok казва на потребителите, че Мъск е в по-добра физическа форма от Леброн Джеймс и по-умен от Леонардо да Винчи

Малайзийската комисия за комуникации и мултимедия заяви в неделя, че е изпратила уведомления до X с искане за по-строги мерки, след като е установила „повторна злоупотреба“ с Grok за създаване на вредно съдържание.

В отговора си обаче X не е обърнал внимание на рисковете, свързани с платформата, и се е фокусирал главно върху процеса на докладване от потребителите, заявява регулаторният орган.

От там добавят, че Grok ще бъде блокиран, докато не бъдат въведени ефективни предпазни мерки, и призовават обществеността да докладва вредно онлайн съдържание.

Чатботът на xAI беше временно ограничен, след като публикува в X антисемитски изказвания, расистки нападки и дори се нарече MechaHitler. Скандалът поставя под въпрос какво всъщност се крие зад обявените от Мъск „подобрения“

AI и езикът на омразата: Grok на Мъск с расистки и антисемитски изблици

Използването на Grok за създаване на сексуално експлицитно съдържание е нарушение на човешките права, достойнството и онлайн безопасността, написа в Instagram индонезийският министър на комуникациите и цифровите въпроси Меутя Хафид. Министерството също така е поискало от X на Мъск да предостави разяснения относно използването на Grok.

През последните години индонезийските власти предприеха строги мерки срещу други онлайн източници на порнографски материали, като платформи като OnlyFans и Pornhub вече са забранени в страната.

Индонезийските потребители на X, които са открили собствените си манипулирани снимки в платформата са гневни как е било допуснато това да се случи. Такъв пример е Кирана Аюнингтяс, която се придвижва в инвалидна количка и публикува онлайн своите ежедневни преживявания. Тя обаче открива, че непознат е коментирал снимката й с молба към Grok да я генерира в бикини.

И въпреки че е променила настройките за поверителност и се е свързала с платформата, за да бъде премахната снимката и да се попречи на потребителите да редактират други нейни изображения, тя твърди, че няма резултат и е трудно да се каже дали някой още притежава снимките.

Мъск обеща свободомислещ AI, но получи дигитална кутия на Пандора

Grok на Мъск влиза в „секси“ режим, но xAI има спешна нужда от екип по сигурността

Използването на Grok за сексуални изображения беше осъдено от световните лидери, включително от британския премиер Киър Стармър, който го нарече „позорно“ и „отвратително“.

На този фон нараства и натискът за блокиране на Grok във Великобритания, като министърът на технологиите Лиз Кендъл заяви, че ще подкрепи тази мярка, което накара Мъск да обвини правителството, че потиска свободата на словото.

Според Кендъл обаче законът във Великобритания „включва правомощието да се блокира достъпът до услуги в Обединеното кралство, ако те отказват да се съобразят с британското законодателство“ и „ако Ofcom реши да използва тези правомощия, ще има пълната ни подкрепа“, допълва министърът.