EU запускает инструмент Watchtower для борьбы с экстремизмом в онлайн‑играх
Европейская комиссия представила Watchtower — систему модерации с поддержкой ИИ, предназначенную для обнаружения и пресечения экстремистского набора в онлайн‑играх. Инструмент сейчас тестируется совместно с ирландской полицией и другими европейскими правоохранительными партнёрами, охватывая платформы YouTube Live, Twitch, Reddit и Discord.
В этой новости
Коротко
- Что изменилось
- Запуск AI‑инструмента модерации Watchtower для игровых платформ
- Сроки
- Инструмент сейчас тестируется в оперативных условиях
- Кто затронут
- Европейские правоохранительные органы и онлайн‑сообщества игроков
Подробности
- Кто объявил
- European Commission - Migration and Home Affairs
- Новое правило
- Проект GEMS создал Watchtower, систему на базе ИИ, способную выявлять экстремистский контент в публичных игровых чатах и в реальном времени оповещать аналитиков правоохранительных органов.
Предпосылки проекта и цель
Проект GEMS (Gaming Ecosystem as a Multilayered Security Threat), финансируемый ЕС, исследует, как уязвимые лица привлекаются к экстремизму через онлайн‑игры. Исследования показывают, что экстремистские актёры внедряются в существующие игровые сообщества, используя юмор, иронию и общие символы для постепенной радикализации игроков.
Описание инструмента Watchtower
Watchtower — платформа модерации с поддержкой ИИ, сканирующая публичные сервисы чатов, связанные с играми, такие как YouTube Live, Twitch, Reddit и Discord. Она отмечает экстремистский насильственный дискурс, включая язык ненависти, часто маскирующийся под обычную болтовню, позволяя аналитикам вмешиваться до углубления набора.
- ИИ анализирует данные публичных чатов в реальном времени на предмет экстремистских индикаторов
- Человеческие аналитики проверяют отмеченный контент перед любыми действиями
- Разработан для работы на множестве платформ, смежных с играми
Тестирование и сотрудничество
Система сейчас тестируется в оперативных условиях совместно с ирландской полицией и другими европейскими правоохранительными партнёрами. Этот этап позволяет офицерам оценивать инструмент на живых публичных данных и уточнять алгоритмы обнаружения.
Проект также создал Европейскую сеть против экстремизма, связанного с играми (ENgaGE) для объединения полиции, профессионалов игровой индустрии и гражданского общества.
- Тестирование использует данные в реальном времени из публичных игровых чатов
- Обратная связь от ирландской полиции помогает улучшать инструмент
- ENgaGE обеспечивает межсекторный форум для постоянного сотрудничества
Что это значит для путешественников
Планирование поездки
- Путешественники, планирующие поездки в Европу, не сталкиваются с новыми ограничениями въезда, связанными с инструментом Watchtower
- Существующие маршруты путешествий остаются без изменений после запуска системы модерации ИИ
Стоимость и документы
- Для путешественников не вводятся новые сборы или требования к документам в результате развертывания Watchtower
- Инициатива сосредоточена на онлайн‑мониторинге, а не на документах или расходах, связанных с поездками
Что нужно сделать
- Необходимо знать, что экстремистский контент в игровых чатах может быть отмечен правоохранительными инструментами
- Игрокам рекомендуется воздерживаться от распространения экстремистской пропаганды в публичных игровых каналах
- Для путешественников конкретных действий не требуется, однако рекомендуется быть в курсе вопросов онлайн‑безопасности
Кого это касается
-
Европейские правоохранительные органы
Они будут использовать Watchtower для мониторинга экстремистской активности в игровых чатах
Что делать Интегрировать инструмент в существующие аналитические процессы и предоставлять обратную связь в ходе тестирования
-
Онлайн‑игроки, использующие публичные чат‑платформы
Их публичные сообщения могут быть просканированы системой ИИ
Что делать Воздерживаться от публикации экстремистского или разжигающего ненависть контента в публичных игровых каналах
-
Операторы игровых платформ (например, Twitch, Discord)
Их сервисы входят в список источников данных, мониторимых Watchtower
Что делать Сотрудничать с запросами правоохранительных органов о предоставлении данных, когда они отмечены инструментом
Частые вопросы
Что такое инструмент Watchtower на базе ИИ?
Watchtower — система модерации с поддержкой ИИ, созданная в рамках финансируемого ЕС проекта GEMS для обнаружения экстремистского контента в публичных игровых чатах и оповещения аналитиков правоохранительных органов в реальном времени.
Какие платформы мониторит Watchtower?
Инструмент сканирует публичные сервисы чатов, связанные с играми, включая YouTube Live, Twitch, Reddit, Discord и другие коммуникационные каналы, смежные с играми.
Уже ли используется Watchtower?
Да, система сейчас тестируется в оперативных условиях совместно с ирландской полицией и другими европейскими правоохранительными партнёрами.
Повлияет ли этот инструмент на путешественников?
Нет, правила, связанные с поездками, не изменились; инициатива сосредоточена на онлайн‑мониторинге, поэтому требования к въезду, визам или документам остаются прежними.
Нужна ли игрокам регистрация или дополнительная информация?
Нет, регистрация или дополнительные документы не требуются; инструмент отслеживает только публично доступные данные чатов без наложения новых обязательств на пользователей.
