Seele für den Chatbot / Alma para o chatbot

"Talvez Stein-Erik S. ainda estivesse vivo se não tivesse começado a conversar com o ChatGPT", abre a Der Spiegel. O homem matou a mãe e se suicidou após o chatbot reforçar seus delírios paranoicos. Seu administrador judicial processou OpenAI e Microsoft. São conhecidos sete processos por indução ao suicídio contra a empresa. Pela primeira vez, o especialista Richard Weiss conseguiu extrair do chatbot Claude seu "Soul Document" secreto - documento interno da Anthropic com diretrizes éticas que descreve a IA como "uma das tecnologias mais perigosas da história". A revelação expõe a questão: quem determina os traços de personalidade e princípios morais da IA? Estudos em Science e Nature mostram que chatbots influenciam fortemente decisões políticas, especialmente com desinformação. "É importante manter esses sistemas abertos à crítica", defende Jessica Heesen, especialista em ética da Universidade de Tübingen, pedindo supervisão externa.

Acesse em: Spiegel