A próxima onda

Este microbook convida você a conhecer as ideias centrais de A próxima onda, de Mustafa Suleyman e Michael Bhaskar.

Em uma tarde de 2012, no escritório da DeepMind, Mustafa Suleyman viu um algoritmo aprender a jogar Breakout e encontrar, por conta própria, uma estratégia que não era óbvia para muitos jogadores. A cena condensava a promessa da inteligência artificial: sistemas capazes não só de executar instruções, mas de descobrir caminhos novos. Hoje, ferramentas de biologia sintética também tornam cada vez mais possível ler, editar e escrever o código da vida. Em A próxima onda, Suleyman e Michael Bhaskar perguntam como aproveitar esse poder sem deixar que ele escape ao controle humano.

A tecnologia avança em ondas e tende a se espalhar

Suleyman e Bhaskar descrevem o ser humano como Homo technologicus: nossa história se desenrola junto das ferramentas que inventamos, não à parte delas. Uma tecnologia de propósito geral, como o fogo, a agricultura, a escrita ou a eletricidade, abre possibilidades que se multiplicam em novas ferramentas, práticas e instituições. Quando várias inovações se combinam, formam uma onda que transforma não apenas a produção, mas também a organização social.

O automóvel mostra esse processo em escala concreta. O motor de combustão existia antes de o carro se tornar acessível, mas a linha de montagem de Henry Ford reduziu o preço do Model T e ampliou sua adoção, ajudando a remodelar estradas, subúrbios, fazendas e modos de vida. A tecnologia deixou de ser um objeto isolado e passou a sustentar uma infraestrutura inteira.

A mesma dinâmica aparece na imprensa e na computação: a prensa de Gutenberg se espalhou pela Europa, enquanto transistores cada vez menores deram base a computadores, smartphones e serviços digitais. Em geral, demanda, concorrência, cópia, economias de escala e redução de custos tornam as ferramentas mais acessíveis e capazes. Por isso, os autores tratam a proliferação não como exceção, mas como padrão histórico, embora seu ritmo e seus efeitos concretos variem.

O problema da contenção transforma progresso em dilema

À medida que uma tecnologia se difunde, seus criadores perdem a capacidade de prever e dirigir seus usos; ela entra em sistemas sociais complexos e produz consequências de segunda e terceira ordem. O fonógrafo de Edison foi pensado para registrar vozes, mas o público quis ouvir música; motores que pareciam limpar as ruas do esterco dos cavalos acabaram associados às emissões e ao aquecimento global. Os autores chamam atenção para esses efeitos de revanche, quando uma inovação pode contrariar seus propósitos ou gerar danos imprevistos.

Conter significa monitorar, restringir, controlar e, em situações extremas, interromper usos ou desenvolvimentos perigosos, articulando medidas técnicas, culturais, legais e políticas. Não se trata de tratar a tecnologia como inimiga, mas de manter a sociedade capaz de direcioná-la e limitar danos. A história oferece exemplos parciais, sobretudo o controle nuclear, mas ele dependeu de enorme complexidade e custo, tratados, cooperação e também circunstâncias favoráveis.

Daí nasce o dilema central: a tecnologia pode criar riscos catastróficos, mas renunciar a seus benefícios também seria perigoso, pois dela dependem avanços médicos, energia mais limpa, produtividade e respostas a problemas globais. Suleyman alerta ainda para a aversão ao pessimismo, a tendência de elites e profissionais minimizarem riscos porque são incômodos ou parecem improváveis. O objetivo não é prever com certeza o desastre, mas examinar seriamente riscos de baixa probabilidade e consequências enormes, sem confundir prudência com fatalismo.

Inteligência artificial e biologia sintética inauguram uma onda que alcança inteligência e vida

A próxima onda tem duas tecnologias de propósito geral no centro: a inteligência artificial e a biologia sintética. A IA passou de experiências como o DQN e o AlphaGo a modelos de linguagem capazes de redigir, traduzir, resumir e apoiar uma ampla gama de tarefas, embora ainda apresentem limitações, vieses e erros. Suleyman chama de inteligência artificial capaz o estágio em que sistemas podem cumprir objetivos complexos com pouca supervisão; para ele, esse avanço merece mais atenção prática do que debates especulativos sobre consciência ou superinteligência.

Na biologia, o sequenciamento tornou o DNA legível, e ferramentas como o CRISPR facilitaram sua edição; a síntese de genes acrescenta a possibilidade de escrever sequências e projetar organismos. Isso pode apoiar terapias, agricultura resistente à seca e processos industriais mais sustentáveis, mas também amplia preocupações com acidentes, usos maliciosos e alterações cujos efeitos podem persistir por gerações. O livro não apresenta esses resultados como certos, e sim como possibilidades que se tornam mais acessíveis à medida que os custos caem e as ferramentas avançam.

A força da onda está na convergência: a IA pode acelerar descobertas biológicas, como mostrou o AlphaFold ao prever estruturas de proteínas em escala inédita, e a biologia pode inspirar novas formas de computação e manufatura. Robótica, computação quântica e novas fontes de energia ampliam esse ecossistema, cujas partes podem acelerar umas às outras. Assim, a transformação não se limita a novos programas ou laboratórios, ela pode alcançar a saúde, a produção, o trabalho e a própria relação dos seres humanos com a vida.

Chegamos à metade deste microbook

Até aqui, vimos que as tecnologias costumam avançar em ondas, baratear e se espalhar, e que esse padrão torna a contenção muito mais difícil do que a simples criação de regras. A IA e a biologia sintética prometem benefícios profundos, mas também colocam em jogo a inteligência e a vida, duas bases da experiência humana. Na segunda metade, o foco passa às características que tornam essa onda especialmente difícil de governar, às pressões que ela exerce sobre os Estados e às medidas que poderiam nos manter em um caminho estreito entre a catástrofe e a vigilância autoritária.

Quatro características tornam a onda difícil de conter

Os autores distinguem quatro propriedades: assimetria, hiperevolução, omniuso e autonomia. Assimetria significa que recursos baratos podem permitir a atores pequenos produzir impactos desproporcionais; hiperevolução descreve ciclos rápidos de melhoria e recombinação; omniuso indica aplicações muito variadas. A autonomia acrescenta sistemas capazes de agir com menos supervisão, enquanto suas decisões podem ser difíceis de explicar ou antecipar.

Na guerra da Ucrânia, drones comerciais adaptados e sistemas de IA ajudaram forças ucranianas a localizar alvos e explorar pontos fracos de uma força muito maior, embora o livro ressalte que o apoio militar convencional externo também foi decisivo. A mesma versatilidade que permite avanços na descoberta de medicamentos pode ser redirecionada à produção de substâncias tóxicas, e modelos de IA podem servir tanto à criação quanto à desinformação ou ao ataque cibernético. A dificuldade, portanto, não está apenas em controlar uma ferramenta específica, mas em prever os usos que uma tecnologia geral poderá assumir.

A contenção também enfrenta incentivos poderosos e simultâneos: rivalidade entre Estados, lucros, competição por prestígio e publicação científica, curiosidade e necessidades sociais urgentes. Cada participante teme perder vantagem se desacelerar enquanto outros avançam, e descobertas abertas podem ser copiadas, adaptadas e difundidas. Por isso, Suleyman descreve a inovação como um processo distribuído, sem um centro capaz de comandá-la, e admite que esses incentivos são difíceis de neutralizar.

A próxima onda fragiliza o Estado e redistribui o poder

O Estado-nação oferece uma grande barganha: em troca do monopólio legítimo da força e da obediência dos cidadãos, deve garantir ordem, segurança e serviços públicos. Mas muitas democracias já enfrentam perda de confiança, desigualdade, polarização e instituições lentas, fatores que dificultam a coordenação necessária para governar tecnologias globais. A tecnologia não é neutra no sentido político, pois altera o que pessoas, empresas e governos conseguem fazer e, assim, modifica as relações de poder.

Ataques cibernéticos como WannaCry e NotPetya mostram como uma vulnerabilidade digital pode atingir hospitais, empresas e infraestruturas além das fronteiras. Drones autônomos, deepfakes e ferramentas de IA podem baratear ataques, ampliar a desinformação e enfraquecer a confiança, enquanto a automação pode deslocar tarefas e pressionar salários, empregos e receitas públicas. O autor não trata cada cenário como inevitável, mas sustenta que a combinação de riscos, e sua chegada simultânea, pode ampliar a fragilidade do Estado.

A redistribuição é contraditória: corporações que concentram dados, computação e talento podem se tornar mais poderosas, e governos podem empregar vigilância para controlar populações. Ao mesmo tempo, ferramentas baratas e abertas podem permitir que comunidades, movimentos ou grupos separatistas se organizem fora das estruturas tradicionais. Sem instituições confiáveis, essa tensão entre centralização e fragmentação pode levar tanto ao autoritarismo tecnológico quanto a Estados incapazes de cumprir suas funções.

Conter exige camadas de proteção e um caminho estreito

Para Suleyman, a regulamentação é necessária, mas insuficiente: a lei costuma avançar mais devagar que a tecnologia e não elimina, sozinha, a competição, o lucro, a pesquisa aberta ou os acidentes. A contenção precisa reunir segurança técnica desde o projeto, auditorias independentes, testes adversariais, transparência e mecanismos para detectar e interromper comportamentos perigosos. Em biologia, o autor destaca a análise de sequências de DNA sintetizadas; em IA, defende testes controlados, maior explicabilidade e sistemas que possam ser corrigidos.

A agenda também envolve usar gargalos para ganhar tempo, responsabilizar criadores, experimentar modelos empresariais que conciliem propósito e lucro e fortalecer governos com perícia tecnológica própria. Tratados e alianças internacionais podem harmonizar padrões, enquanto uma cultura que relata falhas e aprende com elas reduz o risco de repetir erros. Por fim, movimentos populares e participação pública são necessários, porque decisões sobre tecnologias que afetam a todos não podem ficar restritas a elites técnicas e políticas.

Essas medidas não formam uma solução mágica nem uma garantia de sucesso, mas camadas que se reforçam e podem criar condições melhores para a contenção. Os autores chamam esse equilíbrio de caminho estreito: abertura suficiente para colher benefícios, restrições suficientes para reduzir danos, sem cair nem na catástrofe nem na vigilância total. A contenção, portanto, não é um estado final, mas uma prática contínua que exige debate democrático, aprendizado e disposição para rever escolhas.

Notas Finais

A próxima onda não é apenas uma coleção de invenções, mas uma mudança de escala na capacidade humana de criar inteligência, manipular a vida e agir sobre o mundo. Sua promessa é extraordinária, mas a experiência histórica de proliferação mostra que benefícios não garantem segurança nem controle. Suleyman e Bhaskar defendem que a resposta não é rejeitar a tecnologia nem aceitá-la sem reservas, e sim construir contenção em camadas, com participação ampla e cooperação internacional. O caminho é incerto, mas deixar a decisão para depois torna mais difícil preservar tanto a liberdade quanto os ganhos que essas ferramentas podem oferecer.

Dica do Minutobooks

Para aprofundar a questão do controle da inteligência artificial, vale ler Inteligência artificial a nosso favor: Como manter o controle sobre a tecnologia, de Stuart Russell. Russell concentra-se no desafio de projetar sistemas de IA cujos objetivos permaneçam compatíveis com os interesses humanos, tema que complementa a visão mais ampla de Suleyman e Bhaskar sobre biotecnologia, poder e governança. A leitura conjunta ajuda a aproximar o debate sobre segurança técnica das consequências políticas e sociais da próxima onda.