Há alguma chance de a IA dominar o mundo?

Talvez daqui a 200 ou 300 anos isso seja possível, quando a IA deixar de ser mera escolha estatística baseada na nossa produção intelectual. Ou, o que é ainda mais perigoso: as pessoas estão cada vez mais suscetíveis ao viés de confirmação, com egos fragilizados em tempos de propaganda contínua e constante exposição a conteúdos superficiais.

Neste mundo, onde aprendemos por meio de frases curtas e informações fragmentadas, à medida que se utiliza a média da humanidade para alimentar o banco de conhecimento da IA, começa-se a reduzir a qualidade média do conteúdo gerado. Se esse processo continuar ao longo de uma década, a média tenderá a cair, e a capacidade de inovação da IA será cada vez mais evidente.

Com isso nossa formação se tornando cada vez mais precária, vai reduzir nossa inteligência natural, nos tornando alvo fácil das IAs, sejam elas IAs de fato ou apenas IAs de mercado.

Uma experiencia anedótica :

Quando peço à IA para escrever um código, ela geralmente produz algo mediano, muito inferior ao que eu poderia fazer sozinho. Acabo perdendo tempo ajustando o código para torná-lo utilizável, e, no fim das contas, o tempo total gasto é maior do que seria se eu tivesse escrito o código desde o início. No entanto, para tarefas braçais — como mapear objetos, copiar todos os itens de um lugar para outro ou realizar operações simples — ela costuma gerar algo funcional, ainda que mediano.

A sensação causada pela ausência da tela em branco pode dar a impressão de que sou mais produtivo usando IA, mas, na média, não sou. Se eu continuar delegando essas tarefas à IA, pararei de gerar novos inputs criativos e originais. As próximas gerações usarão predominantemente códigos gerados por IA, que já são uma média, e teremos uma média formada por cada vez menos inovações.

Controlar esse processo por meio de algoritmos é possível, mas considerando o custo de treinamento, que já está nas alturas, e a quantidade absurda de energia necessária — com empresas já construindo "usinas nucleares" apenas para alimentar seus motores de treinamento de LLMs (Modelos de Linguagem em Grande Escala) —, essa abordagem parece inviável a longo prazo.