Obter este curso

Riscos da Inteligência Artificial

AI-250 - Riscos da IA Desalinhada (AI-250)


Descrição
Riscos extremos para os seres humanos podem decorrer tanto do uso malicioso ou inadequado (misuse), quando o usuário é o adversário, quanto do desalinhamento (misalignment) desses modelos de IA. Esta pesquisa aborda os riscos de desalinhamento, onde a própria IA age como adversário e pode causar danos. Veremos diversos exemplos em que sistemas avançados de IA podem causar danos para seres humanos, de forma autônoma, executando ações incompatíveis com a intenção do desenvolvedor.

Veja também os seguintes cursos relacionados:
AI-249 - Misuse (uso malicioso da IA)
AI-251 - IA como alvo
AI-252 - Controles de segurança para a IA
AI-253 - IA no ataque
AI-254 - IA na defesa

CARGA: 8 horas OBRIGATÓRIO: Não

Conteúdo
  • O Problema do Alinhamento da IA
  • AI-250 - IA DESALINHADA
  • 01 - Uma taxonomia do desalinhamento em IA
  • 02 - Quando a Inteligência Artificial aprende a enganar
  • 03 - Sycophancy – Já foi bajulado pelo seu LLM hoje?
  • 04 - Cuidado com o que você pede para a IA
  • 05 - Você não pode buscar o café se estiver morto
  • 06 - Quando a IA decide burlar a supervisão humana
  • 07 - Quando a IA aprende a trapacear
  • IA-250 Feedback
Regras para conclusão
  • Todas as unidades precisam ser concluídas
  • Leads to a certificate with a duration: Não expira
Back