A segurança online avança com o poder da inteligência artificial! A Roblox Corporation anunciou hoje, 7 de agosto de 2025, o Roblox Sentinel, um novo sistema de inteligência artificial (IA) projetado para detectar precocemente comunicações que possam colocar crianças em risco. A novidade permite que a Roblox investigue esses casos com mais agilidade e, quando necessário, acione as autoridades competentes. Em um movimento inédito, o Sentinel está sendo disponibilizado como código aberto para que outras plataformas digitais da indústria possam utilizá-lo.
Roblox Sentinel: Uma Ferramenta de Alerta para Proteger Crianças
O Sentinel é um sistema de alerta prévio que faz parte do kit de ferramentas de segurança de código aberto da Roblox. Ele foi projetado para identificar padrões de comunicação sutis e difíceis de detectar que possam indicar um possível aliciamento. Desde o final de 2024, o sistema tem ajudado a Roblox a agir com rapidez e investigar situações para manter os usuários mais seguros. Somente na primeira metade de 2025, o Sentinel auxiliou a equipe no envio de aproximadamente 1.200 relatórios de possíveis tentativas de exploração infantil ao National Center for Missing and Exploited Children (Centro Nacional de Crianças Desaparecidas e Exploradas).
“A inteligência artificial se tornou um pilar fundamental na forma como a Roblox aborda a segurança e como ajudamos a proteger nossos usuários”, afirma Matt Kaufman, Chief Safety Officer da Roblox. “Contribuir com a comunidade de código aberto é essencial para nossa abordagem de segurança online, pois sabemos que esses desafios existem em todo o mundo digital. Nosso objetivo é compartilhar nossas tecnologias e colaborar com outros líderes para tornar a internet um lugar mais seguro”.
Uma combinação estratégica entre especialistas humanos e inteligência artificial é fundamental para escalar os esforços de segurança na plataforma. Analistas especializados revisam casos sinalizados pelo sistema de IA como potencialmente violadores. As decisões desses analistas alimentam um ciclo de aprendizado contínuo que permite à Roblox aprimorar constantemente o Sentinel, garantindo que ele se adapte e se mantenha atualizado diante dos novos e mutáveis padrões de comportamento de atores mal-intencionados.
A Roblox busca melhorar a segurança em toda a indústria, colaborando com parceiros como o ROOST, do qual é membro fundador, e com o projeto Lantern, da Tech Coalition.
A Importância da Colaboração em Segurança:
Juliet Shen, Head of Product do ROOST, reforçou a importância da iniciativa: “Hoje, muitas plataformas ainda não têm acesso às ferramentas sofisticadas necessárias para identificar e prevenir danos online, especialmente aqueles voltados contra crianças. No ROOST, acreditamos que proteções robustas de segurança devem estar acessíveis a todos que estejam comprometidos em proteger seus usuários, e estamos muito entusiasmados com a contribuição da Roblox, ao disponibilizar mais ferramentas abertas para a área de Trust & Safety.”
