Instagram ще предупреждава родителите, когато тийнейджърите многократно търсят термини, свързани със самоубийство и самонараняване.

„Тези предупреждения са предназначени да гарантират, че родителите са информирани, ако техните тийнейджъри многократно се опитват да търсят такова съдържание, и да предоставят необходимите ресурси, за да подкрепят децата си“, заявява в съобщение платформата на Meta.

Функцията за родителски контрол се появява в момент, когато компанията е обект на обвинения, че дизайнът и функционалността на приложения като Instagram оказват вредно влияние върху психичното здраве на непълнолетни потребители.

В съдебните процеси и свързаните с тях дела са замесени компании като Google YouTube, TikTok и Snap, докато съдът преценява предполагаемата вреда от техните продукти и предполагаемите им усилия да заблудят обществеността относно тези неблагоприятни ефекти, отбелязва CNBC.

Ако бъдат признати за виновни в съответните дела, заведени срещу тях, технологичните гиганти могат да понесат безпрецедентни промени в продуктите им, които се използват от милиарди хора ежедневно

Meta и Apple имат чудовищен проблем – сексуалното насилие над деца в мрежите им

Предупрежденията в Instagram ще са налични следващата седмица в САЩ, Великобритания, Австралия и Канада.

Родителите ще получават предупреждения, ако техните деца многократно търсят в „кратък период от време“ „фрази, насърчаващи самоубийство или самонараняване, които подсказват, че тийнейджърът иска да се нарани, и термини като „самоубийство“ или „самонараняване“.

Meta заяви, че родителите ще могат да получават предупреждения, които и да не са реална причина за безпокойство, но ще продължи да се вслушва в обратната връзка относно функцията. Известията ще се изпращат на родителите по имейл, SMS, WhatsApp или в Instagram.

Функцията ще изисква както родителите, така и тийнейджърите да се регистрират в инструментите за родителски контрол на Instagram. Родителите ще виждат съобщение, обясняващо тревожните навици на тийнейджърите при търсене в Instagram, и ще могат да разгледат допълнителни ресурси за помощ.

Meta заяви, че планира да пусне подобни родителски предупреждения „за определени AI преживявания“, които имат за цел да уведомят настойниците „ако тийнейджър се опита да се включи в определени разговори, свързани със самоубийство или самонараняване, с нашия AI“.

Главният изпълнителен директор на Meta свидетелства по знаково дело дали продуктите на компанията водят до пристрастяване сред децата

„Instagram е наркотик“: Зъкърбърг защитава Meta по дело за пристрастяване при деца

Новите политики на компанията идват след нарастващите опасения, че чатботовете с изкуствен интелект на различни платформи като OpenAI и Meta се ангажират в съмнителни и потенциално вредни разговори, свързани с психичното здраве на потребителите.

Meta предлага собствени чатботове с изкуствен интелект и работи върху нов мощен модел с кодово име Avocado, който ще дебютира по-късно тази година, съобщи CNBC.

Главният изпълнителен директор на Марк Зъкърбърг свидетелства миналата седмица в Върховния съд на Лос Анджелис по дело, в което ищецът твърди, че е станала зависима от социални медии като Instagram, когато е била непълнолетна.

По време на свидетелските си показания той повтори позицията на Meta, че собствениците на мобилни операционни системи и свързани с тях магазини за приложения като Apple и Google са по-подходящи да проверяват възрастта на потребителите, отколкото разработчиците на приложения.

Главният прокурор на Тексас се присъединява към Сената в разследването на практиките на Meta, свързани с използването на технологиите ѝ от непълнолетни

AI терапевти за деца? Meta и Character.ai под прицел за подвеждащи практики

По отношение на проверката на възрастта Федералната търговска комисия заяви в сряда, че няма да налага мерки, свързани с правилото за защита на личните данни на децата в интернет (COPPA), срещу „определени оператори на уебсайтове и онлайн услуги“, събиращи потребителски данни, които могат да бъдат използвани за технологии за проверка на възрастта.

Правните документи, публикувани миналата седмица като част от отделен процес, свързан с Meta в Ню Мексико, съдържат подробности за вътрешни съобщения от служители, в които се обсъжда как усилията за криптиране биха могли да затруднят разкриването на доклади за сексуално малтретиране на деца пред властите.

Meta отрече обвиненията както в случая в Калифорния, така и в този в Ню Мексико.

Миналата седмица CNBC съобщи, че Националната асоциация на родители и учители няма да поднови финансовите си отношения с Meta поради различните правни предизвикателства, пред които е изправена компанията относно дигиталната безопасност на децата.