Prezadas empresas de IA: parem com o "alarmismo catastrófico"
Empresas de IA precisam parar com o alarmismo catastrófico e adotar uma abordagem mais equilibrada.
Conteudo
TLDR;
Porque as empresas de IA vêm alimentando medo e hype com previsões apocalípticas e mensagens contraditórias que geram ansiedade pública e desconfiança. Empresas como OpenAI e Anthropic têm feito declarações e divulgado relatórios dramáticos — de risco de extinção a automação massiva de empregos — que soam exagerados e, em alguns casos, como busca de atenção ou investimento. O autor condena essa tática que chama de "doom trolling" e propõe expor e confrontar essas práticas, oferecendo sugestões concretas para exigir comunicação mais responsável e pressionar por soluções práticas.
Resumo
Nos últimos três anos o autor, inicialmente entusiasmado com o surgimento do ChatGPT e do poder inesperado dos modelos de linguagem, passou a ver o debate dominado por pânico e auto‑alarme. Op‑eds alarmistas (Harari, Tristan Harris e outros) falaram de inteligência alienígena e até de eleições presidenciais controladas por IA; o autor publicou um texto no New Yorker para acalmar exageros e explicou autogressão a senadores, mas as empresas de IA adotaram uma estratégia oposta: amplificar riscos para angariar atenção e recursos. Sam Altman e Dario Amodei agravam o tom — comparações com guerra nuclear, percentuais apocalípticos sobre fim da raça humana e previsões massivas de desemprego — enquanto iniciativas como testes de renda básica e alegações de modelos “inadmissíveis” por razões de segurança (o caso Mythos) geraram briefings ansiosos e manchetes. Relatórios subsequentes sobre auto‑melhoria recursiva, com animações alarmantes, concluíram que o problema seria inevitável por competição geopolítica. O efeito foi generalizado: desconfiança pública, ansiedade entre desenvolvedores (um relato descreve exaustão e dano à saúde mental) e a crítica do autor — que chamou essa comunicação de “doom trolling” — como moralmente indefensável, prometendo propor formas de reagir. Ele anuncia também recomendações práticas para cidadãos, reguladores e consumidores enfrentarem essa narrativa tóxica urgentemente.