IA e Confiança

Apresentado por David Levi (Stanford HAI) e mediado por Veridiana Domingos Cordeiro (USP) e Lucas Borsaini (Google), este seminário aborda um dos desafios mais críticos da revolução tecnológica contemporânea: a construção de confiança em sistemas de inteligência artificial. A palestra explora por que os mecanismos humanos de confiança, desenvolvidos ao longo de milênios para avaliar relações interpessoais, falham sistematicamente quando aplicados a sistemas algorítmicos. Primeiro, há uma investigação sobre como nossa psicologia evolutiva nos torna vulneráveis a confiar inadequadamente em IA, seja por excesso ou por falta, e como o design desses sistemas pode explorar essas vulnerabilidades cognitivas. Segundo, o seminarista discute o dilema do "gêmeo digital": devemos desenvolver agentes que repliquem fielmente nossos comportamentos ou versões aspiracionais que tomem decisões superiores às nossas? Essa questão tem implicações profundas para delegação de autoridade e atribuição de responsabilidade. Finalmente, o seminário defende uma transformação na governança de IA, propondo a transição de relatos anedóticos de falhas para observatórios sistemáticos que monitorem padrões e documentem incidentes de forma rigorosa.

Assista em: