Roblox Corporation ha presentado oficialmente Roblox Sentinel, un sistema de inteligencia artificial diseñado para identificar señales tempranas de riesgo infantil en línea.

Este innovador sistema ya está disponible como código abierto para que otras plataformas digitales puedan integrarlo en sus herramientas de protección y seguridad.

Sentinel forma parte del kit de seguridad de código abierto de Roblox y actúa como un sistema de alerta temprana, capaz de detectar patrones sutiles en la comunicación que podrían indicar intentos de grooming o explotación infantil.

Desde finales de 2024, Sentinel ha estado funcionando dentro de Roblox y, en el primer semestre de 2025, ayudó a generar alrededor de 1,200 reportes de posibles intentos de explotación infantil, que fueron enviados al Centro Nacional para Niños Desaparecidos y Explotados (NCMEC).

“El uso de inteligencia artificial se ha vuelto fundamental en nuestro enfoque para mantener seguros a nuestros usuarios”, declaró Matt Kaufman, director de seguridad de Roblox.

Además, señaló que liberar Sentinel al ecosistema de código abierto es una forma de contribuir a la seguridad en toda la industria digital.

El funcionamiento de Sentinel combina tecnología y revisión humana. Analistas especializados examinan los casos marcados por la IA, lo que permite refinar continuamente los algoritmos del sistema y adaptarlos a los nuevos métodos utilizados por actores malintencionados.

Este enfoque colaborativo entre humanos y máquinas garantiza una detección más precisa y actualizada.

Además de desarrollar sus propias herramientas, Roblox participa en iniciativas de seguridad más amplias, como ROOST (donde es socio fundador) y el proyecto Lantern de la Tech Coalition, con el objetivo de generar una red de colaboración entre plataformas que permita fortalecer la protección de menores a nivel global.

Juliet Shen, jefa de producto en ROOST, destacó la importancia del acceso equitativo a tecnologías avanzadas de seguridad.

“Muchas plataformas no cuentan con herramientas lo suficientemente sofisticadas para detectar y prevenir daños en línea. Que Roblox libere Sentinel como una solución abierta es un gran paso hacia una internet más segura para todos”.

Con esta iniciativa, Roblox reafirma su compromiso con la protección infantil, invitando a otros actores de la industria a colaborar y adoptar tecnologías que prioricen la seguridad de los usuarios más jóvenes.