Instagram начал уведомлять родителей о случаях, когда их дети ищут вредоносный контент

С 13 августа социальная сеть запустила по всему миру систему уведомлений для родителей. Она срабатывает, если подросток несколько раз за короткий промежуток времени пытается найти в соцсети материалы, связанные с самоубийством или самоповреждением. Функция работает только у пользователей, подключивших инструменты родительского контроля.

Система реагирует только на повторные попытки поиска. По данным Meta, к таким запросам относятся фразы, пропагандирующие самоубийство или самоповреждение, формулировки, указывающие на намерение подростка причинить себе вред, а также соответствующие прямые поисковые термины.

Точное число запросов, после которого отправляется уведомление, компания не раскрывает. Meta сообщила, что для срабатывания требуется несколько попыток за непродолжительное время.

Уведомление может прийти родителю по электронной почте, SMS или WhatsApp, а также непосредственно в приложении. После открытия уведомления появляется полноэкранное сообщение о том, что подросток неоднократно пытался искать связанные с самоубийством или самоповреждением материалы. Родителю также предлагаются подготовленные при участии специалистов материалы о том, как обсуждать такую ситуацию с подростком.

Instagram впервые объявил о новой системе 26 февраля. Первоначально ее начали внедрять для родителей в США, Великобритании, Австралии и Канаде. В мае Meta сообщила о расширении функции на Европейский союз, Бразилию и Индию. 13 августа компания обновила первоначальное сообщение и заявила, что такие уведомления теперь доступны пользователям инструментов родительского контроля по всему миру.

При этом правила Instagram в отношении соответствующих поисковых запросов не изменились. Социальная сеть блокирует выдачу по запросам, непосредственно связанным с самоубийством и самоповреждением. Вместо них поиск показывает информацию о доступной помощи и профильных организациях.

По данным Meta, материалы, пропагандирующие или прославляющие самоубийство или самоповреждение, запрещены, а публикации пользователей о собственном подобном опыте скрываются от подростковых аккаунтов, в том числе если подросток подписан на автора.

Отдельно Meta внедряет уведомления, связанные с разговорами подростков с ассистентом Meta AI. С июля такая система действует для родителей, использующих родительский контроль Instagram, в США, Великобритании, Австралии и Канаде. Если система выявляет в разговоре подростка с Meta AI признаки возможного намерения причинить себе вред, сообщение перед отправкой родителю проходит ручную проверку. Планируется, что функция станет доступна во всём мире до конца этого года.