PowerSchool, líder en software educativo en la nube, ha lanzado PowerBuddy™, un asistente de inteligencia artificial que promete transformar la experiencia educativa de más de 60 millones de estudiantes en 90 países. Este asistente no solo optimiza la interacción entre alumnos y sus redes de apoyo, sino que también enfrenta el desafío de filtrar contenido perjudicial para salvaguardar a los menores en contextos escolares.
El corazón de esta innovación es un sistema de filtrado de contenido personalizado desarrollado con Amazon SageMaker AI. Diseñado para identificar y bloquear material nocivo, como el acoso escolar o el discurso de odio, este sistema es cuidadoso para no interferir en debates académicos legítimos. Así, temas históricos sensibles, por ejemplo, no son erróneamente clasificados como contenido violento.
La solución emplea técnicas avanzadas de adaptación, como LoRA, ajustando el modelo Llama 3.1 8B para obtener un rendimiento óptimo y específico. Las pruebas del sistema han dado resultados prometedores, con una precisión del 93% en la identificación de contenido dañino y una tasa de falsos positivos inferior al 3.75%. Este nivel de eficacia supera a muchas soluciones genéricas del mercado.
La instalación de este sistema ha aumentado la confianza en el uso de tecnologías de inteligencia artificial en las aulas, gracias a su capacidad para realizar ajustes rápidos mediante la recolección continua de retroalimentación y pruebas A/B. Este enfoque adaptable ha garantizado la eficacia del sistema.
PowerBuddy se integrará progresivamente en más productos de PowerSchool, con planes de perfeccionamiento continuo del modelo de filtrado. La meta es alcanzar un equilibrio entre la innovación y la seguridad, construyendo un ambiente de aprendizaje seguro y accesible que permita a los estudiantes crecer sin temor a la exposición a contenido dañino.
