12:19
youtube.com ha 2 dias SRT Sandbox

AI gerando binário é uma péssima ideia Elon

Por Lucas Montano

Coding IA Tecnologia Programação

Conteudo

TLDR;

A ideia de Elon Musk criticada é usar IA para gerar binário diretamente, eliminando a necessidade de escrever código e compiladores, prevendo isso até o final do ano. É uma péssima ideia porque perde o RLHF com feedback humano, os guardrails de segurança permitindo códigos maliciosos como shellcode, tokenização ineficiente para bytes crus e um erro em um único byte corrompe todo o binário. Compiladores resolvem otimizações como alinhamento, jumps e registradores que a IA teria dificuldade em garantir sem falhas catastróficas.

Resumo

O vídeo discute de forma crítica a ideia de Elon Musk de que, até o final do ano, a programação evoluirá para que inteligências artificiais (IA) gerem binário diretamente, eliminando a necessidade de escrever código fonte ou usar compiladores. O apresentador, fã de Musk em inovações como o Full Self-Driving (FSD) da Tesla — demonstrado em um vídeo de um Tesla dirigindo autonomamente no centro de Amsterdã sem intervenções —, alerta para os riscos. Argumenta que isso perde o RLHF (reforço por feedback humano), tornando o treinamento 100% automatizado e baseado apenas em penalizar crashes, o que é insuficiente. Sem guardrails, binários crus poderiam conter shellcodes maliciosos indetectáveis, e um único byte errado corrompe tudo, ignorando otimizações complexas de compiladores como alinhamento de memória e correções de jumps. Além disso, a tokenização de binário é ineficiente: bytes crus geram contextos gigantes, e BPE não se adequa bem. O host promove a Highglobe para pagamentos internacionais de devs brasileiros (0,3% de custo, Pix instantâneo, rendimento em dólar e cupom "montando20" para 20% off), mas conclui que gerar binário com LLMs não é viável nem eficiente, propondo alternativas híbridas no futuro. (198 palavras)