Artigo Técnico: O AI Act e o Futuro do Mundo do Trabalho

Se o impacto da inteligência artificial (IA), para este novo mundo do trabalho, é quase universalmente consensual, a elevada difusão do tópico de IA resulta numa multitude de definições, que dificultam a convergência numa única visão partilhada.

Procurando ultrapassar tal problema, adotemos a definição estabelecida pela OCDE (2024):

“Um sistema de inteligência artificial é um sistema baseado em máquinas que, para um conjunto de objetivos explícitos ou implícitos, infere, a partir dos inputs que recebe, como criar outputs tais como predições, conteúdo, recomendações ou decisões, que podem influenciar ambientes físicos ou virtuais.”

Apesar da diversidade de sistemas existentes, é algo consensual que a IA traz oportunidades únicas de redução do consumo de tempo e recursos em tarefas repetitivas, permitindo que os esforços e energia humana sejam redirecionados para tarefas mais estratégicas, e com maior valor acrescentado. Adicionalmente, os sistemas de IA generativa, permitem também que as pessoas encontrem a informação que precisam de forma mais célere e eficiente, permitindo ainda criar conteúdo de forma instantânea.

Contudo, se existe consenso quanto às oportunidades, também é cada vez mais consensual os riscos inerentes a tais tecnologias. Com efeito, modelos de IA com outputs que impactam decisões sobre pessoas ou ativos organizacionais, podem evidenciar enviesamentos ou padrões discriminatórios, e as vertentes generativas de IA podem sofrer de “alucinações”, providenciando respostas ou conteúdos completamente errados, mas cujo erro nem sempre é passível de ser distinguido pelos utilizadores.

O reconhecimento de tais limitações, e das consequências que delas podem derivar, têm impelido a um maior esforço e preocupação regulatória, o que, por si mesmo, poderá também resultar num risco adicional, ao complementar o risco e preocupações reputacionais, com um aumento da exposição das empresas a potenciais contraordenações e litígios.

Adicionalmente, e numa perspectiva mais macro, poderemos também questionar se o crescente aumento e complexificação do quadro regulatório não poderá reprimir esforços de inovação, e, através disso, reduzir a competitividade económica das partes visadas.

A nível europeu, tal preocupação tem ganho maior ênfase com a recente promulgação do AI Act, que se apresenta como o primeiro quadro jurídico compreensivo sobre a IA.

Independentemente da opinião e posicionamento face ao conteúdo em si, o AI Act acaba por reduzir a incerteza quanto às regras e requisitos obrigatórios na cadeia de valor de sistemas de IA, com tal clareza legal a merecer um maior estudo por parte dos diferentes interlocutores organizacionais.

Procurando uma descrição simples para uma matéria complexa, este diploma implementa um quadro comum para o uso e fornecimento de sistemas de IA dentro da UE, classificando tais sistemas de acordo com o risco associado à sua utilização, e acoplando diferentes requisitos e obrigações em linha com a classificação final.

Encontraríamos, então, 4 classes: sistemas proibidos, dado o nível inaceitável de risco associado ao seu uso; sistemas de elevado risco, que veem a sua utilização altamente regulamentada, constituído o cerne e o foco da maioria das medidas deste quadro regulatório; sistemas de risco limitado, onde existem, fundamentalmente, obrigações relacionadas com a transparência, e com a obrigação de informar o utilizador final de que ele se encontra a interagir com uma IA; e, por último, sistemas de risco mínimo, que não teriam regulamentação adicional dentro do presente quadro legislativo.

Chegados a este ponto, alguns poderão perguntar-se, qual a relação entre tais regras e o mundo dos RH.

Pois bem, imaginemos que um Head of People decide recorrer a um sistema de IA baseado no reconhecimento de emoções (por exemplo, através de expressões faciais), para aferir o bem-estar e a saúde mental dos seus colaboradores. Ainda que a intenção possa ser a melhor, os riscos para a privacidade e autonomia individual, bem como as preocupações face à intrusão na vida privada dos empregados, leva a que tal sistema seja proibido dentro do AI Act, com tal violação a resultar numa coima de 35 milhões de euros, ou até 7% da faturação anual da empresa.

Ou, em alternativa, num Head of Talent Development que decide implementar um sistema de IA que monitoriza a performance dos colaboradores, utilizando tais informações como base para uma decisão automatizada relativamente a experiências personalizadas de aprendizagem, promoções e planos de carreira. Ainda que tal sistema não seja proibido, as preocupações e riscos de estigmatização e discriminação, colocam-no dentro do patamar de sistemas de elevado risco, com a violação dos termos e condições associadas a tal sistema, a representarem um custo de 15 milhões de euros, ou até 3% da faturação anual da empresa.

Dos exemplos acima descritos, torna-se por demais evidente a potencial exposição dos departamentos de RH a soluções tecnológicas que estariam sujeitas ao AI Act e às suas regras. E, engane-se quem imagina que, ao recorrer a parceiros e fornecedores externos, estes mesmos departamentos precisariam apenas de utilizar os sistemas de IA de acordo com as instruções providenciadas, assegurar a inserção de dados no sistema em conformidade com as leis existentes (ex. RGPD), e reportar quaisquer incidentes ou avarias detectadas.

Se tais não deixam de ser as exigências base dos utilizadores, não é menos verdade que a maioria das organizações serão tanto utilizadores como criadores, ao utilizar e combinar modelos externos, com o seu próprio desenvolvimento, dentro dos seus sistemas de IA.

Como tal, e de forma a preparar-se adequadamente para as exigências do AI Act, os departamentos de RH devem utilizar os próximos 2 anos, de período de ajustamento, para delinear e estruturar 4 requisitos essenciais: Transparência e documentação; Governance; Gestão da tecnologia, modelos e dados em utilização; e, Garantia dos direitos individuais.

De forma a garantir o cumprimento do primeiro requisito, e durante a própria concepção e desenho da IA, a mesma deverá incorporar uma perspectiva de sistema de registos, assegurando o registo automático dos eventos, incidentes e modificações mais relevantes do ciclo de vida do sistema.

Paralelamente, o departamento responsável pelo sistema de IA deverá também assegurar a existência de documentação básica e técnica sobre o propósito da ferramenta, avaliação de risco, impacto ao nível dos direitos fundamentais, transferência e partilha de dados, entre outros. Tais informações permitiriam demonstrar a conformidade com os requisitos previstos no AI Act, podendo ser utilizadas para o processo de declaração e avaliação de conformidade da UE, ou para futuros pedidos por parte das autoridades responsáveis.

Após garantir a transparência e documentação necessária na génese do sistema, torna-se essencial garantir a correta alocação de responsabilidade, a longo-prazo, pelo sistema de IA, algo que só poderá ser conseguido através de um robusto sistema de Governance, que assegure o alinhamento entre os departamentos de IA, Cibersegurança, Legal, e, neste caso, RH.

Tal Governance deverá contemplar responsáveis (individuais ou departamentais) pelo sistema de gestão de risco, que deverá, igualmente, gerir potenciais fornecedores, assegurando que os contratos firmados cumprem os requisitos ao nível de tratamento de dados secundários, e as melhores práticas ao nível de transparência e equidade. Responsáveis pelo estabelecimento de um sistema de gestão de qualidade, que assegure a conformidade do sistema ao longo do seu ciclo de vida. E, responsáveis pela interação regulatória, atuando como ponto de contacto central para com as autoridades nacionais e internacionais, respondendo aos pedidos de dados e documentação que sejam necessários.

Por último, mas não menos importante, para sistemas de elevado risco, os mesmos deverão ser desenhados de forma a permitir supervisão humana, responsabilidade que poderá ser repartida pelos múltiplos intervenientes acima descritos, ou por um responsável específico dentro da estrutura de Governance.

Paralelamente à estruturação e gestão mais organizacional acima descrita, é igualmente importante abordar a gestão tecnológica inerente aos sistemas de IA. Neste caso, quer durante o desenvolvimento, quer durante a sua implementação e utilização no mercado, é necessário estabelecer uma correta gestão e segmentação de dados, assegurando o correto treino, validação e teste do modelo inerente, garantindo que ele foi “alimentado” com dados suficientemente relevantes e representativos, para atuar de acordo com o propósito delineado, com robustez e precisão, e sem qualquer perspectiva de enviesamento e discriminação.

Complementarmente, devemos ainda pensar nos utilizadores finais e nos seus direitos, assegurando que providenciamos instruções completas e fiáveis sobre o uso da IA dentro do âmbito do processo em causa. Em alternativa, e dependendo dos sistemas, deveremos ainda informar que o utilizador irá interagir com conteúdo gerado por IA, com todos os benefícios, e potenciais limitações, que tal poderá ter. Tais medidas deverão ainda assegurar a conformidade com outra legislação em vigor, tal como, por exemplo, garantir os direitos do titular dos dados sob o âmbito do RGPD.

Em suma, e através das ações acima descritas, os profissionais de RH poderão desempenhar um papel crucial no cumprimento do AI Act, salvaguardando os direitos dos trabalhadores, promovendo uma maior justiça e equidade, e mitigando os riscos associados ao advento do novo ecossistema laboral.

Referências:

OECD (2024) “Explanatory memorandum on the updated OECD definition of an AI system”, OECD Artificial Intelligence Papers, No. 8, OECD Publishing, Paris

Siga-nos no LinkedIn, Facebook, Instagram e Twitter e assine aqui a nossa newsletter para receber as mais recentes notícias do setor a cada semana!