É possível assegurar a transparência das decisões com a Inteligência Artificial?

A resposta de Hinton foi bastante clara. “Não. Eu acredito que estamos a dirigir-nos para um período, pela primeira vez na história da humanidade, em que temos coisas que são mais inteligentes que o ser humano. Eu acredito que elas compreendem, são inteligentes, têm experiências próprias e podem tomar decisões da mesma forma que seres humanos”.

A única característica que o cientista informático entende que a Inteligência Artificial (IA) ainda não possui é consciência. Mas, como explicou em entrevista, é uma matéria de tempo até ser capaz de a adquirir e ser capaz de persuadir as decisões de líderes. Ser capaz de controlar a sua existência.

Uma das implicações desta procura de consciência pode ser, no futuro, que estes sistemas possam escrever o seu próprio código e modificar os seus sistemas de forma autónoma. Hinton entende que este é um aspeto preocupante. “Esta é uma das formas como estes sistemas podem escapar ao nosso controlo, através da escrita autónoma do código informático e modificando-se. E isso é algo que nos temos de preocupar de forma séria”.

Num artigo escrito para a Harvard Business Review, a autora Tsedal Neely classifica como importante que os líderes reconheçam que nem sempre é possível saber como os sistemas de IA podem tomar decisões. “Algumas das características que ajudam a IA a processar grandes quantidades de informação com precisão e eficiência que os seres humanos também podem torná-la uma caixa negra: não podemos verificar como o resultado foi feito. Contudo podemos desempenhar um papel no aumento da transparência e responsabilidade dos processos de decisão da IA”.

Duas formas sublinhadas por Neely como forma de aumentar a transparência e responsabilidade são, em primeiro lugar, reconhecer que a IA é invisível e inescrutável e, em segundo, a necessidade de se ser transparente ao apresentar e usar sistemas de IA.

Recentemente, a União Europeia (UE) atingiu um acordo pioneiro no que diz respeito a uma proposta de regulação da Inteligência Artificial, o “artificial intelligence act”. A 9 de dezembro, o Conselho Europeu definiu um conjunto de regulações provisórias com o âmbito de assegurar que sistemas de IA implementados nos mercados europeus, e que são usados dentro da UE, são seguros e respeitam os direitos fundamentais da UE.

“Esta é uma conquista histórica e um grande marco em direcção ao futuro! O acordo de hoje aborda eficazmente um desafio global num ambiente tecnológico em rápida evolução num domínio fundamental para o futuro das nossas sociedades e economias. E neste esforço, conseguimos manter um equilíbrio extremamente delicado: impulsionar a inovação e a adopção da inteligência artificial em toda a Europa, respeitando simultaneamente os direitos fundamentais dos nossos cidadãos”, explica Carme Artigas, secretária do Estado Espanhol para a digitalização e Inteligência Artificial.

A ideia principal deste ato será regular a IA com base na capacidade desta última de causar danos na sociedade através de uma “análise de risco”: quanto maior for o risco, mais estritas são as regras. Além disso, um sistema revisto de governance com aplicação prática ao nível europeu, uma extensão da lista de proibições com a possibilidade de usar identificação biométrica remota por parte do sistema judicial, entre outras.

“Transparência é essencial”

Recentemente, o Stanford’s Institute for Human-Centered Artificial Intelligence publicou um index sobre transparência e apontou que ainda existe muito que desconhecemos sobre a Inteligência Artificial e muito que nunca saberemos. 

Os investigadores verificaram sistemas como OpenAI, Meta, Anthropic e Hugging Face com o intuito de escrutinar qual o grau de utilização, por parte destes sistemas, de dados com direitos de autor, medidas de privacidade e teste de segurança. Neste index, o melhor aluno foi a Meta, que recebeu 54 em 100 pontos. De acordo com os investigadores, caso entregasse um ensaio para avaliação, a Meta receberia um Não-Satisfaz.

“Transparência não é somente um ideal importante. É essencial para verificar a responsabilidade dos sistemas de IA. Sem ela, investigadores não podem verificar modelos fundacionais para ameaças de segurança ou enviesamento”, explica Marietje Schaake, diretora internacional de politica interna na Stanford University’s Cyber Policy Center e conselheira especial na Comissão Europeia.

A falta de transparência na IA é algo que já começa a revelar indícios de preocupação por parte das empresas, não só pelas questões de autenticidade, mas também na questão de mérito.

Gonçalo Quadros, presidente do conselho de administração da Critical Software, alertou num debate promovido pelo Sindicato dos Jornalistas e pela Secção de Jornalismo e Comunicação da Faculdade de Letras da Universidade de Coimbra (FLUC) que a falta de transparência tem o potencial para agravar as desigualdades no mundo. 

“Há um problema de transparência ou de falta dela. Porque é que o algoritmo devolve um determinado resultado? O que deu a origem, qual a lógica desse resultado? Muitas vezes não é possível dar essa resposta. Não percebemos porque é que a IA cria aquele resultado”, constatou o fundador da tecnológica sediada em Coimbra.

Uma vantagem inerente à IA ser utilizada para manipular informação ou criar informação falsa é, como descreve Quadros, acontecer o inverso e serem criadas ferramentas que identifiquem essas manipulações ou que as combatem. No entanto, Gonçalo Quadros admite que isso não elimina o impacto negativo da informação veiculada. 

Com as máquinas, haverá uma capacidade de produzir e criar informação manipulada de “forma vertiginosa”, observou, acreditando que será difícil combater essa escala. O presidente da Critical Software destacou ainda o “problema sério” que existe no potencial de destruição e desqualificação de emprego que a IA poderá trazer.

“Não é a primeira vez que acontece na nossa História, mas desta vez o impacto é mais transversal. Não estará focado num setor, como a indústria ou a agricultura. Um trabalho que obrigava a uma grande qualificação poderá ser feito por alguém sem qualificações, com a ajuda de máquinas”, vincou.

Num setor em progressiva alteração e em constante mudança, a Inteligência Artificial ainda vai trazer mais questões sobre a sua autonomia na tomada de decisões sem qualquer tipo de salvaguardas. Milhões de pessoas em todo o mundo estão a descobrir o que é esta nova ferramenta promete trazer ao mercado de trabalho.

Indivíduos e empresas vão se confrontar com questões sobre a aplicação destas tecnologias no seu ramo de atividade. Para algumas vai significar uma mudança de curso nas suas operações; e outras tem uma oportunidade de fazer crescer e expandir as suas ofertas. Mas, no fundo de tudo, todos têm de estar cientes da responsabilidade que assumem ao aplicarem a Inteligência Artificial no seu ramo.

Siga-nos no LinkedIn, Facebook, Instagram e Twitter e assine aqui a nossa newsletter para receber as mais recentes notícias do setor a cada semana!