Dominio de Seguridad de la IA: protección de modelos de aprendizaje automático y arquitecturas basadas en IA

La seguridad de la IA engloba las prácticas especializadas, metodologías y controles técnicos necesarios para proteger los sistemas de inteligencia artificial durante todo su ciclo de vida. A medida que la integración de la IA se extiende por los entornos empresariales, este dominio se centra en mitigar riesgos específicos como las entradas adversariales, la inversión de modelos, el envenenamiento de los datos de entrenamiento y la manipulación no autorizada de sistemas agénticos. Incluye la implementación de marcos de seguridad sólidos que conectan la ciberseguridad tradicional del software con la naturaleza probabilística y basada en datos de los modelos de aprendizaje automático. Los profesionales de este ámbito evalúan la integridad de las cadenas de suministro de modelos, supervisan las anomalías durante la inferencia y aplican políticas de gobernanza para garantizar que las implementaciones de IA sigan siendo resilientes, privadas y conformes con unas normas de seguridad en constante evolución. Al abordar tanto los componentes arquitectónicos como los resultados de comportamiento de la IA, este dominio busca preservar la confidencialidad, integridad y disponibilidad de servicios algorítmicos sofisticados.

Este dominio abarca las medidas de protección técnica para modelos de aprendizaje automático y aplicaciones basadas en IA, incluida la robustez frente a ataques adversariales y la integridad de las canalizaciones de datos. Excluye las prácticas generales de ciberseguridad que no abordan específicamente las vulnerabilidades inherentes a las arquitecturas de IA ni los vectores de ataque propios de los entornos de inferencia y entrenamiento de modelos.