No próximo dia 21 de fevereiro, estará em Loulé, no salão nobre dos Paços do Concelho, às 21h30, o Prof. Luís Moniz Pereira, para uma palestra sobre inteligência artificial, onde abordará a “ética para as máquinas” e os problemas morais e sociais que tal levanta.
Aproveito para sugerir a vossa presença nesse encontro e, com este pretexto, deixo aqui algumas reflexões sobre a governação dos algoritmos, do Big Data ao Big Brother, entre “sensores e censores”.
O advento da governação algorítmica
O algoritmo-mestre em Bruxelas e em Frankfurt, os servidores e os templates nas capitais nacionais e os terminais tecnológicos e digitais na província, este é o modelo de governação algorítmica com sede na União Europeia.
Uma das facetas mais intrigantes do próximo futuro é aquela que diz respeito aos avanços das nanotecnologias, à passagem da indivisibilidade para a divisibilidade tecnológica e sua transferência para os domínios da liberdade individual e da vida quotidiana.
Necessidades individuais, desejos pessoais e serviços públicos serão transformados em objetos de consumo industrial que, doravante, ficam ao alcance e ao dispor da “internet das coisas”, da conexão generalizada e da indústria de serviços personalizados.
A grande transformação será, então, a conversão da “indivisibilidade de um serviço público, coletivo ou social” na “divisibilidade de um objeto privado” produzido pelo mercado e tornado possível pelo avanço tecnológico.
Os serviços públicos prestados pelo Estado e outras coletividades e cobertos por via do imposto e taxas seriam, então, progressivamente substituídos por objetos privados prestados por empresas por via de um preço, regulado ou não.
Neste alinhamento, o Estado seria progressivamente reduzido à sua dimensão mínima, um estado-regulador de prestações em regime de outsourcing. E se, no limite, esta grande transformação nos transportar até uma comunidade hiper-vigilante de sensores digitais convertidos, quem sabe, numa espécie de “censores furtivos”, porventura nas mãos de gente menos recomendável, o que fazer?
Vejamos alguns aspetos do problema:
1. A multiplicação de interfaces tecnológicos entre o serviço e o cliente
Esta transferência está, de resto, em curso, não apenas pela digitalização dos serviços públicos e coletivos, mas, sobretudo, pela multiplicação de novos interfaces tecnológicos entre o serviço e o cliente, no sentido da sua progressiva personalização.
O próprio Estado-administração repensará todo o seu front office, criando, para o efeito, uma intermediação muito mais inteligente e diligente.
Muitos dos serviços públicos serão tratados em inovadoras “caixas multisserviços” à imagem e semelhança das caixas multibanco; trata-se, de resto, de alargar os serviços já prestados, desta vez, segundo um conceito muito mais amplo de “internet das coisas”.
A personalização do serviço caminhará a par com a personalização do cliente. As próprias câmaras municipais caminharão para uma espécie de loja do cidadão com muito maior interatividade tecnológica e digital.
2. A pegada digital, da “internet das coisas” à hiper-vigilância
Através da comunicação virtual com objetos e pessoas todo o nosso universo pessoal estará à distância de um click. No mesmo sentido, a flexibilidade dos horários será a norma, mas isso pouco importará face à disponibilidade total manifestada.
Recomeçaremos várias vezes os nossos projetos de vida, pelo que a mobilidade, o nomadismo e a flexibilidade serão os nossos princípios orientadores. O preço a pagar pela ubiquidade nómada é a nossa total rastreabilidade.
Na “internet das pessoas e das coisas” ficará o nosso rasto e história pessoais, isto é, a informação necessária e suficiente para o exercício da hiper-vigilância que os diferentes prestadores de serviços não deixarão de manipular tendo em vista gerar obediência e conformidade em proveito próprio.
Num jogo permanente de sedução e distração, começa aqui a nossa servidão voluntária, se quisermos, um “primeiro nível de condicionalidade e conformidade”.
3. Do risco moral ao risco pessoal
Com a divisibilidade tecnológica a “socialização dos prejuízos” pode ter os dias contados, socialização que é uma regra fundamental do capitalismo, como sabemos.
O mesmo se poderá dizer do “passageiro clandestino” e do risco moral, os chamados “caçadores furtivos de despesa pública”. O contribuinte, em princípio, estará mais informado e avisado e não permitirá que se realize a socialização do prejuízo.
Ao mesmo tempo, a redução progressiva dos orçamentos públicos irá empurrar-nos para “coberturas privadas de risco pessoal”, quem sabe, para um regresso às mútuas de seguro, numa aceção moderna e responsável de risco pessoal.
Se o nosso caminho for a cobertura privada do risco pessoal, que pode ser, também, cooperativa ou mutualista, estaremos a transitar para o “segundo nível de condicionalidade e conformidade”, desta vez a responsabilidade pessoal sobre “nós próprios”.
Nesta nova condição, os chips, as próteses e os gadgets de autovigilância servirão, a todo o tempo, para ajustar o prémio de risco aos efeitos diretos e colaterais do nosso comportamento.
As técnicas nanométricas e biométricas e as ciências cognitivas, por via de chips e sensores de todo o tipo, serão os censores impiedosos dos nossos comportamentos que transmitirão, just in time, às companhias de seguro e outros vigilantes.
4. Da autovigilância ao estado mínimo
Pode ser uma oportunidade única para fazer algumas reformas do estado, se acertarmos, obviamente, nas prioridades políticas mais fundamentais.
De facto, com a desintermediação institucional e uma redução apreciável dos “caçadores furtivos de despesa pública” teremos poupado ao contribuinte imensos recursos que ele poderá canalizar para aplicações privadas, cooperativas e mutualistas.
Na mesma linha de raciocínio, teremos, igualmente, a médio prazo, a oportunidade de caminhar em direção ao Estado em rede e à “cidade-estado”, um novo conceito para as redes de cidades que decidam federar-se tendo em vista uma outra oferta de utilities e serviços colaborativos, cooperativos e mutualistas.
5. Do estado mínimo às cidade-estado e comunidades de autogoverno
Com efeito, os novos interfaces tecnológicos e digitais tornarão possível a formação de comunidades de autogoverno, uma espécie de condomínios abertos e colaborativos da era digital e os interlocutores privilegiados das autoridades oficiais.
Com o tempo, também a autarquia convencional, vertical e hierárquica, cederá o passo às comunidades de autogoverno e suas federações. A democracia participativa e a sociedade colaborativa poderão fazer aqui, sem dúvida, um ganho de causa relevante.
Entre o Big Data e o Big Brother
Existe, porém, um lado menos virtuoso da governação algorítmica que reside na “qualidade da regulação digital” (ou na falta de regulação), como, de resto, alguns casos recentes têm noticiado. Com efeito, é muito estreita a passagem para a outra margem.
E se, por causa da nossa pegada digital, despertarmos, também, a malevolência de um “espírito censor”?
No grande mercado da informação, o chamado Big Data, os “abusos de posição dominante” serão uma tentação e a cumplicidade dos reguladores um cuidado a ter em conta.
Dito de outro modo, reduzidos a um “estado mínimo” e sem a sua proteção jurídica os défices de regulação política da governação algorítmica podem transportar-nos para uma servidão voluntária agravada, para um “terceiro nível de condicionalidade e conformidade” situado, desta vez, no plano das liberdades públicas e dos direitos individuais de cidadania e privacidade.
De facto, a distância entre um sensor e um censor pode ser mais curta do que pensamos. Quando falamos de Big Data falamos de produção, recolha e tratamento de dados, mercados com duas faces (uma gratuita e outra paga), algoritmos ou procedimentos de cálculo que transformam dados brutos (obtidos gratuitamente) em informação valiosa vendida aos mais diversos clientes.
No plano operacional, o sistema Big Data faz a limpeza, triagem, categorização e cálculo algorítmico dos dados. Não interessa o contexto, a singularidade, a significação desses dados. Os indivíduos são “agregados temporários de dados brutos”, quantificáveis e sucessivamente reconfigurados a uma escala industrial, se quisermos, uma espécie de coisificação dos indivíduos; tudo fica indexado a um qualquer indicador quantitativo, para os fins da sociedade hipercompetitiva e performativa.
Estamos perante uma espécie de “modelo extrativista” em que os cidadãos internautas, utilizadores de redes e plataformas, são produtores e fornecedores de uma gigantesca massa de informação pessoal, muita dela subliminar, num ambiente informacional vertiginoso e hipnótico, que tem tanto de benignidade como de toxicidade.
Somos, pois, agregados temporários de dados brutos e é aqui que a adição digital convertida em servidão voluntária é extremamente perigosa, sobretudo num momento em que movimentos populistas e regimes iliberais (a grande irmandade) tentam condicionar os nossos pensamentos e comportamentos.
Mais ainda, nos procedimentos de cálculo de um qualquer mestre-algoritmo somos simples correlações estatísticas sob a forma de padrões de comportamento, sucessivamente reconfiguradas por uma massa imensa de dados permanentemente atualizados.
Num plano mais cognitivo, a governação algorítmica, na sua exuberância e potência calculatórias, transforma os algoritmos em próteses cognitivas, que provocam não apenas a exteriorização do saber, mas, também, a proletarização de algumas /muitas classes profissionais e intelectuais no futuro próximo.
A sociedade algorítmica é, portanto, uma sociedade altamente paradoxal com inúmeros conflitos políticos e sociais no interior da nova estratificação social em formação. Porém, no plano do sujeito individual, os nossos “duplos algorítmicos” podem ser muito úteis se os soubermos manipular em nosso benefício, por exemplo, na criação de inteligência artificial e “assistentes inteligentes” para tarefas que nos libertem da nossa condição mais servil.
No resto, o nosso rasto, a nossa pegada digital, serão explorados exaustivamente em ordem a produzir padrões supra-individuais que visam “antecipar e orientar” o nosso comportamento, logo tudo muito previsível, tudo muito obediente, tudo garantido pela racionalidade algorítmica.
Notas Finais
Num registo, digamos, mais conservador, o dos valores e limites bioéticos e biopolíticos, constatamos que a sociedade política não tem sido capaz de delimitar os termos do debate público onde a discussão sobre a sociedade algorítmica deve ocorrer.
Por um lado, parece adquirido, teremos mais economia das plataformas, a uberização de muitas atividades, o regresso dos bens comuns, a emergência da economia colaborativa e do quarto setor.
Por outro lado, porém, estamos sem argumento orientador para esta “trajetória de ciência-ficção”. Talvez o mais inquietante neste caminho seja mesmo tentar perceber até onde um projeto de vida, levado a cabo no horizonte de um tempo longo, pode ser substituído e tomado por uma coleção de episódios e atos de consumo sem guião nem argumento. Por isso, ansiosos, perguntamos:
– Vamos continuar a ser os idiotas úteis ao serviço dos mercados biface e dos grandes conglomerados tecnológicos, colocando a nossa pegada digital à sua inteira disposição?
– Vamos ser, cada vez mais, um mero algoritmo orgânico à disposição dos algoritmos inorgânicos de serviço?
– Vamos manter os níveis de “adição digital” e continuar a acreditar que temos acesso direto à realidade e à verdade, sem qualquer tipo de intermediação ou representação política?
– Vamos inventar ou “produzir” a nossa identidade digital, convertê-la num ativo pessoal e pô-la a render no nosso universo real e material?
Sabemos como a digitalização da sociedade altera bastante as convencionais categorias da relação social e, portanto, a nossa sociabilidade. A fronteira entre o real e o virtual faz cada vez menos sentido, por isso, a sociedade, nos dias de hoje, é essencialmente um assunto interpretativo (veja-se a pós-verdade e as fake news) e muitos efeitos são não-desejados, não-intencionais e contraintuitivos.
Por isso, as novas categorias do social, a sua matéria-prima, são a virtualidade, o risco, a simulação, a dissimulação, a representação. A simulação e a dissimulação não deixam ver o princípio da realidade e a plurissignificação da realidade segrega tanta contingência como liberdade.
O universo digital e a cibercultura estão fascinados pela distinção entre autenticidade e simulação e a desordem entre consciência e inteligência passou a ser uma linha vermelha entre algoritmos orgânicos e inorgânicos, um lugar onde se deposita, apesar de tudo, a esperança de uma revelação.
No quadro da grande transformação digital em curso há um aspeto que é muito perturbador e que coloca em rota de colisão a governação da coisa pública e a governança da sociedade algorítmica. Na linha da desintermediação institucional, o discurso emergente diz-nos que o governo é uma indústria ineficaz, as instituições em geral são caras e preguiçosas e a democracia é cada vez mais desajeitada para lidar com a governação algorítmica.
Quer dizer, temos de encontrar rapidamente um novo modo de pensar, de estar e fazer a política, sob pena de sermos reduzidos a uns idiotas úteis da governação algorítmica!!
Nesta sequência, poderíamos dizer que os algoritmos tanto podem ser uma guarda pretoriana de um candidato a ditador, um Big Brother, como a guarda avançada de um capitalismo global e predador como, ainda, uma rede distribuída de proximidade ao serviço de uma sociedade mais igual e democrática.
Ao ser tudo isto, o algoritmo revela aquilo que nós já sabíamos, isto é, a sua funcionalidade instrumental ao serviço de “homens sem rosto”, que, geralmente, desprezam os limites da política e as responsabilidades públicas que lhe são inerentes.
De facto, estão em marcha alterações culturais e civilizacionais de grande amplitude que apenas aguardam uma oportunidade para explodir à superfície.
Eis algumas dessas questões finais que aqui deixo para reflexão:
– Que humanismo vamos reabrir para lá dos algoritmos, do Big Data e do cloud computing, ou seja, haverá uma “nova espécie humana”, novas variedades em construção para lá do nosso algoritmo bioquímico?
– O que fazer com a nossa minúscula ilha de consciência, ou seja, será o pós-humanismo uma transição para outros universos de sentido e de estados mentais?
– Para lá dos modelos matemáticos da sociedade algorítmica, quem são os homens sem rosto que nos governam e qual é o grau de responsabilidade pública e democrática que eles nos devem?
– E sobre a governança da sociedade algorítmica, como é que o pensamento e a ação política lidam com estas novas “corporações do algoritmo, do Big Data e do dataísmo”?
Finalmente, depois de tanto acaso e necessidade, de tanto determinismo e aleatoriedade, de tanta arte, política e filosofia, estaremos nós reféns da governação algorítmica, seremos nós os novos crentes do dataísmo? E nesta encruzilhada do tempo, onde fica o nosso livre-arbítrio e a incerteza sobre o futuro, afinal, a nossa pequena margem de liberdade?
Dado o lugar central ocupado pelo Big Data, tudo girará à volta da privacidade e da publicização desses dados pessoais. Em consequência, emergirão uma nova regulação política e jurisdicional e novas figuras e protagonistas: os reguladores, os cuidadores, os procuradores do interesse público e privado em plena era digital.
Todavia, como a inovação política e social corre muito mais lentamente há o risco de ficar prisioneira da elevada “toxicidade da sociedade algorítmica”.
Doravante, entre sensores vigilantes e censores furtivos, tudo pode acontecer, mesmo o absolutamente imponderável.
Comentários