Un estudiante de 13 años fue detenido en la Southwestern Middle School, en DeLand, Florida, luego de que el sistema de monitoreo Gaggle detectara una frase alarmante escrita en un dispositivo escolar. La consulta realizada por el menor a ChatGPT fue: "How to kill my friend in the middle of class" ("Cómo matar a mi amigo en medio de clase"), lo que generó una respuesta inmediata por parte de las autoridades.
El hecho ocurrió en una computadora proporcionada por la escuela. Al detectar el contenido, Gaggle envió una alerta automática al oficial de recursos escolares asignado al campus. El agente acudió al lugar, entrevistó al menor y procedió a su detención, de acuerdo con los informes locales y declaraciones oficiales del Sheriff del condado de Volusia.
Según la cadena local WFLA, afiliada a NBC, el adolescente declaró que "sólo estaba bromeando" con un compañero. Sin embargo, debido a los protocolos de seguridad vigentes en instituciones educativas, se activó el procedimiento correspondiente, dada la gravedad potencial del mensaje.
La plataforma Gaggle, utilizada en muchas escuelas de Estados Unidos, monitorea en tiempo real los textos escritos por los estudiantes en entornos digitales proporcionados por las instituciones. Según información pública de la empresa, su tecnología analiza indicios de violencia, autolesiones, acoso y otros comportamientos de riesgo. Cuando se detecta contenido que se considera peligroso, se notifica de inmediato a las autoridades escolares y, en algunos casos, a la policía.
Este caso volvió a poner en discusión el uso de tecnologías de vigilancia como Gaggle en el ámbito educativo. Mientras que sus defensores sostienen que estas herramientas permiten prevenir situaciones peligrosas, los críticos advierten sobre el riesgo de generar falsas alarmas y de fomentar un entorno de vigilancia constante entre menores.
Hasta el momento, no se presentaron cargos públicos contra el adolescente ni se divulgaron detalles sobre el proceso judicial. La oficina del Sheriff confirmó que el estudiante fue trasladado a un centro de detención juvenil, como parte de los protocolos establecidos ante potenciales amenazas dentro de instalaciones escolares.
Este incidente se suma a un creciente número de alertas generadas por herramientas automatizadas en escuelas estadounidenses, en un contexto de preocupación nacional por los tiroteos escolares y la seguridad estudiantil. (NotiPress)
