O blog Listas Literárias leu Nexus - Uma breve história das redes de informação, da Idade da Pedra à inteligência artificial, de Yuval Noah Harari publicado pela Companhia das Letras; neste post as 10 considerações de Douglas Eralldo sobre o livro ou ótimas razões para deixarmos, no mínimo, um pé atrás com a inteligência artificial, confira:
1 - Embora tendo no subtítulo a expressão "uma breve história" e sua capacidade de nos dizer que trata-se de uma obra sobre o passado, Nexus situa-se nos três tempos, especialmente ao futuro para o qual direciona seus temores a partir do conhecimento do passado e o que o distingue dos dramas que ocorrem agora no nosso presente, tendo como inflexão essencial da narrativa a presença cada vez mais onipresente da inteligência artificial entre nós. Ou seja, trata-se muito mais de uma obra das possibilidades futuras - algumas deles ou muitas delas bastante temerosas - que propriamente uma obra acerca da história, campo de formação do autor. O livro chega-nos então com uma ampliação das discussões levantadas pelo autor que no decorrer dos últimos anos tem demonstrado grande preocupação se não com a própria tecnologia da inteligência artificial, mas especialmente como nós, humanos em sociedade estamos testemunhando aquela inovação com maior potencial de levar-nos à extinção;
2 - Todavia, vale destacar, mais que uma pregação apocalíptica ou arauto da desgraça, Harari tenta contrabalancear as discussões em redor do desenvolvimento da IA , tomada de um lado por muitos otimistas acríticos e apologistas ingênuos quanto ao potencial máximo dessa nova tecnologia, como o autor assume no decorrer do texto. Em síntese, não sabemos se a melhor palavra conceituar a obra seja a que é um alerta, entretanto é meio que faz Harari, uma espécie de chamada à consciência coletiva social da humanidade em meio a um processo histórico que mal principiou e na verdade está ocorrendo no exato momento. Talvez resida aí o maior desafio do autor já que considerando a sua própria concepção de história, ela ocorre, e mostra-se muito difícil entender todos os movimentos múltiplos do ocorrer histórico. Isso leva ao risco da obra discursar ao vazio, o que esperamos que não aconteça, pois a argumentação do autor traz muito embasamento e suas dúvidas deveriam ser compartilhada pelo maior número de agentes e pessoas em situação de pode colaborar com o debate, cada vez mais parcial pendente para a tecnologia e isto basta um minuto de navegação pelas redes...
3 - É a partir das redes de informação e como estas redes de informação desempenham papéis no decorrer da história é que o autor principia as suas reflexões buscando chegar até o ponto central daquilo que realmente quer discutir: a inteligência artificial. Para tanto ele procura esclarecer coisas importantes como o próprio conceito do que vem a ser informação recorrendo à história do pombo Cher Ami que independentemente da mensagem que levava na guerra tornou-se ele próprio a informação. Nesse sentido, há de se destacar que alguns termos serão discutidos e de modo até didático o autor tentar possibilitar a melhor assimilação possível de ideias conceituais como informação ou as realidades intersubjetivas tão caras à sua argumentação;
4 - Além disso, se pensarmos em termos do português aqui do Brasil que por algum tempo assassinou a palavra estórias, a tradução da obra para resgatá-la especialmente porque, primeiramente em inglês sempre manteve-se a divisão entre story e history, mas especialmente pela concepção que Harari demonstra a respeito das mitologias, de modo que estórias serviria melhor a essa ideia centrada na aproximação com falseamento/ficção já que história associa-se aos fatos. Do mesmo modo estórias estará mais próxima do conceito de realidade intersubjetiva erigidas, entre outros exemplos, através da mitologia o dos mitos que nossas sociedades construíram. Embora um tanto redutora da questão mitológica e que parece-nos não observar aqui estudos sobre os mitos de modo mais profundo, o termo é relevante na argumentação do autor porque percebe ele a relação humana com as estórias até porque essas estórias no decorrer dos milhares de anos vêm nos formando. Somos propensos a acreditar em estórias, sejam elas fatos ou não, o que reforça a proposição de Harari de que ficamos ainda mais expostos diante dessa nova e disruptiva tecnologia que nasce;
5 - É justamente a partir dessas estórias e das redes de informação que surgem a partir delas no percurso histórico, diga-se, especialmente da Idade Média ao nosso presente é que o autor vai centrar sua observação ao passado na tentativa de construir seu pensamento presente preocupado com o futuro. Terá especial atenção a, por exemplo, distinguir momentos importantes da história humana e o florescimento de novas tecnologias, por exemplo, o surgimento do prelo que revolucionou a informação; Harari procura em muitos momentos distinguir seja o surgimento da prensa, seja a Rveolução Industrial ou mesmo a internet com o advento da inteligência artificial. Para ele o que ocorre agora não tem precedentes históricos e os riscos para as sociedades humanas são bem distintos. Segundo Harari, a inteligência artificial pode ser a mais danosa das descobertas e o problema de rede que apresenta-nos pode ser fatal;
6 - Aliás, para o autor "o principal argumento deste livro é que a humanidade obtém enorme poder construindo grandes redes de cooperação, mas essas redes são construídas de uma forma que predispõe os humanos a usarem o poder de modo pouco sábio. Nosso problema, então, é um problema de rede". A partir dessa ideia a argumentação demonstrará como nos últimos anos os algoritmos têm implodido algumas redes e inviabilizado a cooperação global entre as sociedades humanas. E esse é um cenário que se mostra ainda mais confuso e perigoso quando a conversa é invadida por "entidades" como bots e chats de inteligência artificial ou programas que mal compreendemos, mas que cada vez mais tomam a decisão por nós e sobre nós. A essa altura o olhar do autor é também uma preocupação para com a democracia;
7 - Em grande parte porque o autor concede bastante tempo em sua argumentação de demonstração como essa rede digital pode servir a ideais totalitários, já que um ditador certamente adora o fato de que a possibilidade tecnológica do presente viabiliza os sonhos daqueles que pretendem ser o novo Stalin ou novo Hitler. O preocupante é que veremos no livro, no decorrer do desenvolvimento de sua argumentação, que muito disso tem ocorrido, como quando detalha como os algoritmos auxiliam a vigilância das mulheres no Irã ou como algoritmos em nossa história recente estão no centro do debate das autocracias ou dos genocídios recentes. Nesse sentido não deixa de ser assustador o cenário que o autor nos entrega quanto ao estado das coisas, não do passado, mas do agora;
8 - Falando nesse agora que nos cerca, uma coisa interessante na leitura de Nexus é nos entregar já alguma perspectiva histórica acerca da inteligência artificial, que ao leitor mais desavisado por parecer coisa de três ou quatro anos no máximo, mas que entretanto, já data mais de uma década um dos principais eventos na história da IA. O curioso, inclusive é que Harari fala bastante dessa rede intercomputadores, das potencialidades, por ele e no seu objetivo trazidas nas formas radicalmente mais perigosas, entre elas de criar sua próprio mitologia, mas de algum modo seu livro poderá no futuro ser incluído, quem sabe, nesse mitobit dos computadores então constituídos numa nova e poderosa espécie;
9 - Nesse sentido, embora algumas citações e uma abordagem mais detalhada de Nosedive, pensamos que Harari poderia ter trazido para sua argumentação aquela que muito antes dele alerta, sem muito sucesso, os riscos inerentes a essa nova tecnologia: a Ficção Científica. Ela é citada vez ou outra, mas verdade que no decorrer da leitura de Nexus, nós, leitores do gênero lembramos imediatamente desta ou daquela narrativa que trata justamente das preocupações expressas por Harari. Talvez ninguém mais nesse planeta compreenda melhor os riscos da IA que a Ficção Científica, muitas delas as quais poderiam atuar de maneira didática e pedagógica; porém, nem mesmo leitores do gênero mostram-se cautelosos; ainda assim, teria sido interessante trazer para seu olhar essa questão;
10 - Enfim, este é um insight. Diante o que expomos, assim como as narrativas de FC, especialmente as distópicas, Harari parece nos fazer um alerta. Mal sabe ele que ignoramos tais alertas, vide a pouca importância que damos alertas como o de 1984, de George Orwell. Vivemos nesse século XXI numa sociedade que supera e muito o pesadelo orwelliano, em grande parte porque os detentores do poder perceberam o que Huxley demonstrou em sua obra: o totalitarismo é tão mais eficiente quando o amamos. Aproveitando, abrindo um pequeno parênteses, escrevo um capítulo neste livro em que discutimos justamente como o totalitarismo coopta a técnica e a tecnologia para seu uso. Em grande parte o livro de Harari reforça o que demonstramos ali, até porque Nexus dedica bastante tempo a como figuras ou estruturas e redes de poder concebem a informação, seja essa concepção ingênua ou não. Por bom tempo ele discorre como ditadores, tiranos e populistas lidam com isso, de modo que observa como tais figuras podem utilizarem da IA para os ideais totalitários. Entretanto, se a IA a serviço de ditadores e figuras totalitárias já nos é ruim o bastante, o alerta de Nexus vai além, porque numa análise das possibilidades mais radicais, ela própria pode constituir-se nesse ditador, entre outros riscos. Ou seja, ler Nexus mais que olhar pelo retrovisor é uma tentativa que por vezes soa mesmo que quase desesperada de tentar chamar a que mais olhem para aquilo que pode vir a frente.