Amazon ha dado un paso notable en la regulación del contenido de inteligencia artificial (IA) al anunciar la disponibilidad general de filtros de contenido de imagen en su plataforma Amazon Bedrock Guardrails. Esta herramienta avanzada, inicialmente centrada en la moderación de texto, ahora se ha expandido para abordar tanto imágenes como texto en aplicaciones de IA generativa. La actualización representa un salto significativo en las capacidades de control de contenido, permitiendo a las organizaciones gestionar de manera más efectiva los insumos y respuestas generadas por IA.
En un evento reciente, Tero Hottinen, Vicepresidente de Alianzas Estratégicas en KONE, compartió sus perspectivas sobre esta innovación. Hottinen subrayó que Amazon Bedrock Guardrails podría desempeñar un papel crucial en la protección de aplicaciones de IA generativa, asegurando que estas operen de manera relevante y contextual. Con la intención de integrar diagramas de diseño de productos y manuales, KONE planea utilizar estas nuevas medidas de seguridad para mejorar el diagnóstico y análisis de contenido multimodal.
La funcionalidad ampliada de Amazon Bedrock Guardrails permite a los usuarios implementar salvaguardias configurables, capaces de bloquear inputs y outputs perjudiciales. La herramienta introduce seis políticas distintas, desde filtros de contenido hasta la detección de «alucinaciones» del modelo, eliminando hasta un 88% de contenido multimodal perjudicial. Los desarrolladores ahora disponen de la capacidad de ajustar los umbrales de contenido, combinando la moderación de imágenes y texto según sea necesario.
Disponible en varias regiones de AWS, incluyendo US East, US West, Europa y Asia-Pacífico, esta herramienta ofrece a organizaciones de sectores diversos como salud, manufactura, servicios financieros, medios de comunicación y educación, la oportunidad de reforzar la seguridad de marca sin depender de salvaguardias personalizadas o revisiones manuales que pueden ser propensas a errores.
Para comenzar a utilizar los filtros de imagen, los usuarios deben crear un guardrail en la consola de gestión de AWS y configurar los filtros deseados. Como alternativa, pueden emplear el API independiente ApplyGuardrail para verificar el contenido en cualquier flujo de aplicación.
Esta innovación impulsada por Amazon representa un avance sustancial hacia un uso de IA más seguro y responsable, ayudando a las empresas a desarrollar aplicaciones que cumplan con las políticas de IA responsable y protejan mejor a los usuarios finales.
