Inteligência artificial e direitos humanos

A aplicação de IA acarreta perigos e deve ser cautelosamente regulada

A Inteligência Artificial (IA) é certamente uma das áreas científicas onde foram alcançados maiores progressos nos últimos anos. Devido à sua crescente popularidade, é cada vez mais visível no nosso quotidiano.

A IA tem como objetivo dotar agentes de comportamento inteligente, de tal modo que seja indistinguível ao utilizador comum identificar se quem originou determinado resultado foi uma máquina ou um humano.

A definição do comportamento inteligente na máquina parte da racionalidade, definindo objetivos e medidas de performance, de modo a permitir ao agente selecionar a ação que maximiza a sua performance.

Existem diferentes abordagens para implementar comportamento inteligente em máquinas, no entanto a abordagem baseada na aprendizagem da máquina tem tido maior interesse.

Aprender é o processo pelo qual um sistema melhora a sua performance, através da experiência. O cérebro humano, uma rede com biliões de neurónios interligados, bem como o seu processo de aprendizagem, serviram de inspiração para o modelo computacional das Redes Neuronais Artificiais (RNA).

O treino da máquina consiste em calcular a rede para desempenhar uma função, tendo por base exemplos representativos de determinada atividade, utilizando conjuntos de pares de entrada e saída.

Nas RNA, os dados de entrada e saída são do tipo numérico. A aprendizagem profunda está incluída neste paradigma e adiciona maior abstração, permitindo usar exemplos tais como o som, a imagem e a linguagem natural.

O desafio da IA é a sua aplicação aos mais variados contextos. Atualmente, assistimos à sua implementação no mercado de trabalho, onde os funcionários são substituídos por máquinas: por exemplo, no telemarketing, na análise de perfis em recursos humanos, na análise de diagnósticos em medicina, no controle de stocks, na deteção de fraudes no sistema financeiro, na previsão do tempo, na recomendação de produtos a clientes e muitos outros.

Vários especialistas em IA (e.g. Kai-Fu Lee) afirmam que, nos próximos 15 anos, 40% dos empregos no mundo poderão ser realizados por máquinas.

Em 2016, a Microsoft criou o perfil Tay, com idade entre os 18 e 24 anos, na rede social Twitter, que interagia com outros utilizadores, usando IA. A Tay passou a emitir opiniões racistas e machistas, ofendendo pessoas e reproduzindo discursos de ódio. É importante garantir a diversidade dos exemplos, para minimizar os riscos de preconceitos dos algoritmos.

O Ministério da Justiça pretende utilizar IA para acelerar o despacho dos processos. Posteriormente, ao conversar sobre o tema com especialistas em Direito, escutei várias interrogações sobre a aplicação ao Direito Penal. Podem os processos ser parametrizados e servir de exemplo, para o treino de uma máquina? O especialista em Direito Penal diz que não. Eu digo que sim, mas existe a jurisprudência e o fator humano, que não pode facilmente ser aprendido pela máquina.

A aplicação de IA acarreta perigos e deve ser cautelosamente regulada.

 

Autor: Tiago Candeias é diretor da licenciatura em Engenharia Informática do ISMAT

 

 

 



Comentários

pub