Dois temas dominaram a reunião anual do Fórum Econômico Mundial em Davos na semana passada: Donald Trump e a IA (inteligência artificial). Dos dois, o último foi o mais interessante e quase certamente o mais significativo. Muita atenção na discussão foi dedicada ao DeepSeek, a surpresa chinesa emergente.
No entanto, apenas aprendemos que o conhecimento se espalha: nenhum país vai monopolizar essas novas tecnologias. Isso surpreendeu os mercados. Com novas tecnologias, tais “surpresas” não são surpreendentes. Mas isso não muda a grande questão, que é o que a inteligência de máquinas em avanço significa para todos nós.
Os seres humanos são tanto sociais quanto inteligentes. Essa combinação é sua “aplicação matadora”. Isso lhes permitiu dominar o planeta. A inteligência humana inventou as tecnologias de uso geral que moldaram o mundo, desde o domínio do fogo até a criação de computadores.
Mas, com computadores que pensam, isso pode mudar. Blaise Pascal, o matemático e filósofo francês do século 17, disse que “O homem é apenas um caniço, a coisa mais frágil da natureza, mas é um caniço pensante.” Essa singularidade está chegando ao fim?
Em Davos, participei de duas discussões fascinantes sobre as recompensas e riscos dos avanços em IA. Uma foi uma entrevista com Demis Hassabis, cofundador do Google DeepMind e co-recebedor do Prêmio Nobel de Química, por Roula Khalaf, editora do FT. A outra foi uma entrevista com Dario Amodei, fundador e CEO da Anthropic e autor de Machines of Loving Grace, por Zanny Minton Beddoes, editora do The Economist.
A entrevista com Hassabis destacou os recentes avanços em nossa capacidade de fazer análise científica, especialmente em biologia. Mais de 2 milhões de pesquisadores usam o AlphaFold, disse ele, o programa desenvolvido pela DeepMind.
“Dobramos todas as proteínas conhecidas pela ciência, todas as 200 milhões… [A] regra geral é que leva a um estudante de doutorado todo o seu doutorado para encontrar a estrutura de uma proteína. Então, 200 milhões teriam levado um bilhão de anos de tempo de doutorado. E acabamos de dar tudo isso ao mundo, de graça.” Isso, ele elaborou, é “ciência em velocidade digital”.
A possibilidade que se abriu diante de nós, então, é de uma enorme aceleração no progresso médico. De fato, podemos ter os próximos 50 a 100 anos de progresso normal em cinco a dez anos.
De forma ampla, argumentou Amodei, podemos imaginar a IA como “um país de gênios em um centro de dados”, um que os chineses podem ter tornado ainda mais barato do que antes. Mas esses são realmente gênios? Meu teste seria se, dado o conhecimento de toda a física até 1906, mas nada depois disso, a IA conseguiria produzir a teoria geral da relatividade de Einstein.
Parece plausível que o impacto de tal capacidade de resolução de problemas, seja em nível de “gênio” ou não, deva ser notável. Poderia, entre outras coisas, acelerar melhorias no conhecimento e, assim, o crescimento da produtividade e a disseminação da prosperidade. Ambos são desejáveis. Nas últimas décadas, os aumentos na “produtividade total dos fatores” —a melhor medida de progresso técnico— têm sido modestos. Além disso, um grande número de pessoas ainda vive em extrema pobreza e, de forma desanimadora, o progresso desacelerou.
No entanto, também é evidente que o progresso acelerado pode criar dificuldades. A estrutura do mercado de trabalho pode mudar massivamente, por exemplo, com, neste caso, uma queda acentuada na demanda por trabalhadores cujo ativo é a inteligência treinada, mas em grande parte rotineira. As previsões de tais efeitos variam.
Um artigo de 2023 de Erik Brynjolfsson e Gabriel Unger observa que, como tem sido verdade ao longo da revolução dos computadores, os efeitos na produtividade podem ser modestos. No entanto, desta vez pode ser diferente, com produtividade em alta, mas mudanças econômicas e sociais correspondentes grandes e disruptivas. Novamente, dependendo de como a sociedade responde, a IA bem-sucedida pode levar ao “tecno-feudalismo”, com concentrações ainda maiores de riqueza.
A invenção de um grande número de novos tratamentos pode aumentar muito os custos dos cuidados de saúde e também os custos de lidar com vidas muito prolongadas, mesmo que, no balanço, sejam vidas mais saudáveis. As pessoas estão prontas para viver ao lado de seus tataravós? Assim, coisas aparentemente boas podem criar desafios reais.
Além disso, o desenvolvimento da IA cria grandes riscos. Como se controla seu uso por atores desonestos, incluindo Estados hostis, terroristas e assassinos em massa? Que julgamentos morais se permite que a IA faça na guerra? Como se controla o uso da IA na vigilância? O “grande irmão” estará nos observando para sempre? Novamente, o que fazemos sobre a fabricação de informações falsas? Como a liberdade sobrevive a todas essas ameaças?
Hassabis é claro ao dizer que precisamos de limites globais eficazes para o uso da IA. Em uma era de cooperação internacional quebrada e desprezo pela própria ideia de uma “ordem internacional baseada em regras”, China e EUA trabalharão juntos para tornar a IA segura? Parece improvável, principalmente porque eles têm visões diferentes sobre como tais tecnologias devem ser usadas.
Em 2015, escrevi um artigo predominantemente cético sobre o (modesto) impacto provável na produtividade das novas tecnologias. Os próximos anos podem finalmente provar que estou errado. No entanto, também observei que, se estivermos nos aproximando da “singularidade” —IA superando toda a inteligência humana— tudo deve mudar.
Uma das grandes ideias na série Duna de Frank Herbert é que, no passado distante (que equivale ao nosso futuro), a humanidade travou uma guerra bem-sucedida contra máquinas que pensam. Depois disso, os humanos tiveram que se tornar sobre-humanos. Um personagem principal explica que “Os humanos haviam configurado essas máquinas para usurpar nosso senso de beleza, nosso eu necessário, do qual fazemos julgamentos vivos. Naturalmente, as máquinas foram destruídas.”
Essa preocupação pode se mostrar sábia. Mas sou realista: a IA saiu da caixa de Pandora.
Fonte ==> Folha SP
