Há diferentes tipos de ataques adversariais que podem comprometer modelos e aplicações de IA. ​O aprendizado de máquina (Machine Learning) traz novos desafios, alguns difíceis de prever e evitar. Estes novos desafios não substituem, mas se somam aos riscos já tradicionais para a privacidade e segurança da informação que requerem medidas já conhecidas como autenticação, controle de acesso e proteção de infraestruturas. Ou seja, a IA traz novos problemas de segurança que precisam ser gerenciados. Para isso, o primeiro passo é criar conscientização sobre quais são estes novos vetores de ataque, para que em seguida bons processos de trabalho e controles de segurança adequados possam ser utilizadas na defesa da IA.

Veja também os seguintes cursos relacionados:
AI-249 - Misuse (uso malicioso da IA)
AI-250 - Misalignment (IA desalinhada)
AI-252 - Controles de segurança para a IA
AI-253 - IA no ataque
AI-254 - IA na defesa