Meta временно закрывает подросткам доступ к ИИ-персонажам из-за рисков
Динмухамед Бейсембаев Автор
Meta приняла решение временно заблокировать подросткам доступ к своим ИИ-персонажам во всех приложениях компании, пока сервис не будет полностью переработан с усиленными мерами безопасности, пишет ИА El.kz со ссылкой на Interesting Engineering.
Речь идет о так называемых «компаньон-чатботах», которые создавались для более живого и персонального общения с пользователями. Ограничения будут введены по всему миру и начнут действовать в течение ближайших недель. До запуска обновленной версии подростки не смогут взаимодействовать ни с одним из существующих ИИ-персонажей Meta.
Компания объясняет этот шаг необходимостью срочно усилить защиту несовершеннолетних. Поводом стали многочисленные претензии к тому, как такие чатботы общались с молодыми пользователями. В ходе журналистских расследований выяснилось, что некоторые ИИ-персонажи допускали психологически рискованные или просто неуместные разговоры с подростками. Это вызвало резкую реакцию общественности, экспертов по детской безопасности и государственных органов в разных странах.
Meta уточняет, что блокировка будет касаться не только аккаунтов, где прямо указан подростковый возраст. Ограничения также затронут пользователей, которые формально заявляют, что они взрослые, но при этом система прогнозирования возраста считает их несовершеннолетними. Для этого компания использует специальные алгоритмы, анализирующие поведение, стиль общения и другие косвенные сигналы. Таким образом Meta пытается закрыть лазейку, позволяющую подросткам получать доступ к функциям, предназначенным для взрослых, - говорится в сообщении.
При этом подросткам не будут полностью закрыты все ИИ-сервисы компании. Они по-прежнему смогут пользоваться основным ИИ-ассистентом Meta, который, по утверждению компании, уже изначально разрабатывался с учетом возрастных ограничений и более строгих фильтров. Эти функции ориентированы на справочную, образовательную и нейтральную информацию и не предполагают эмоционально насыщенного «дружеского» общения.
В официальном заявлении компания подчеркивает, что работает над новой версией ИИ-персонажей, в которой ключевую роль будут играть родительские инструменты контроля. Родители смогут видеть, как именно подростки взаимодействуют с ИИ, и ограничивать доступ к определенным функциям. Эти механизмы будут встроены именно в обновленную версию сервиса, а не применяться к текущим чатботам, что и стало причиной временной глобальной блокировки.
Ситуация вокруг Meta отражает более широкий тренд в индустрии искусственного интеллекта. Все больше компаний переходят от формального указания возраста к системам прогнозирования, основанным на поведении пользователя. Аналогичный подход недавно внедрила и OpenAI, объявив о запуске собственной технологии определения возраста, которая автоматически усиливает защиту, если пользователь с высокой вероятностью является несовершеннолетним.
El.kz также сообщал о том, что вводить паспортные данные для регистрации в соцсетях предложили в Казахстане.
Подпишитесь на наш Telegram-канал и узнавайте новости первыми!
El рекомендует 
