O
Artificial Intelligence Act classifica vários sistemas utilizados no emprego como aplicações de “alto risco”, exigindo documentação rigorosa, rastreabilidade e supervisão humana. Para Joaquim Jorge, Presidente-eleito da IEEE Computer Society (sociedade internacional que reúne especialistas em informática e engenharia de software), esta evolução regulatória reflete um princípio essencial: a inteligência artificial (IA) pode apoiar decisões organizacionais, mas não substitui o julgamento humano. “
A IA acrescenta valor ao estruturar informação complexa e revelar padrões que seriam menos visíveis à análise humana isolada”, refere o também Professor no Instituto Superior Técnico da Universidade de Lisboa e Investigador do INESC-ID., em entrevista à RHmagazine.
Na gestão de RH, esse contributo começa a tornar-se visível em várias frentes. A análise preditiva da rotatividade, a identificação de lacunas de competências ou a triagem inicial de candidatos em processos de recrutamento com grande volume de candidaturas são alguns exemplos. Nestes contextos, o especialista defende que “o algoritmo pode funcionar como um instrumento de ampliação cognitiva”.
Onde começam os limites?
Esse potencial, contudo, não é uniforme em todas as decisões organizacionais. Quando as escolhas entram no domínio da avaliação humana, o papel da tecnologia torna-se mais limitado. Promoções, avaliações de potencial, despedimentos ou processos disciplinares implicam leitura de contexto, compreensão da cultura organizacional e avaliação das consequências humanas das decisões. “Os algoritmos reconhecem padrões estatísticos; não compreendem o significado social nem o impacto moral das decisões que recomendam.”
Por essa razão, Joaquim Jorge considera problemática qualquer tentativa de delegar plenamente decisões desta natureza a sistemas automatizados. Mais do que uma questão tecnológica, é um tema de liderança e responsabilidade organizacional. “Um sistema pode recomendar, priorizar ou sinalizar. Mas a decisão pertence à organização e, em última instância, à liderança que a valida”, afirma, acrescentando que “delegar estas decisões em algoritmos significa abdicar da liderança”.
Responsabilidade na decisão assistida
À medida que as organizações recorrem a sistemas preditivos para apoiar decisões sobre talento, a questão da responsabilidade torna-se inevitável. Se um algoritmo sinaliza colaboradores com maior risco de saída ou sugere candidatos para promoção, quem responde pelo resultado final?
No entender do investigador, a resposta passa por manter uma arquitetura de decisão em que a tecnologia permanece integrada num circuito supervisionado por pessoas. Na prática, preservar essa responsabilidade implica três condições essenciais: supervisão humana substantiva, registo claro da racionalidade das decisões e possibilidade de revisão ou contestação. Joaquim Jorge vai mais longe ao dizer que “se a decisão não puder ser explicada por um responsável humano, não deveria ter sido tomada”.
“Um modelo híbrido bem concebido mantém a IA no processo, mas preserva o humano no centro da decisão.”
A crescente utilização de sistemas inteligentes em RH trouxe também para o debate o conceito de inteligência artificial explicável. Para um Diretor de RH, “explicabilidade não significa compreender o código-fonte dos algoritmos. Significa compreender os critérios subjacentes a uma recomendação”, esclarece.
Em termos práticos, um responsável de RH deve ser capaz de responder a questões concretas: que variáveis
influenciaram determinada recomendação, qual foi o peso relativo dessas variáveis e em que circunstâncias o resultado poderia ter sido diferente. Sem essa inteligibilidade, os sistemas tornam-se caixas-negras pouco adequadas para apoiar decisões sensíveis. “Se o sistema é uma caixa-negra cuja lógica não pode ser descrita em termos operacionais compreensíveis, então ele não é adequado para apoiar decisões sensíveis na gestão de RH.”
Confiança organizacional em jogo
A introdução de sistemas inteligentes em áreas como avaliação de desempenho ou recrutamento pode alterar a
perceção de justiça dentro das organizações. Segundo o Presidente-eleito da IEEE Computer Society, a confiança dos colaboradores pode deteriorar-se se os mecanismos de decisão forem percecionados como opacos. “Quando os colaboradores sentem que estão a ser avaliados por mecanismos opacos, a confiança pode deteriorar-se rapidamente”, avisa.
Para mitigar esse risco, as empresas devem apostar em transparência proativa: explicar o papel da tecnologia, clarificar os limites da sua utilização e garantir mecanismos de contestação. “A confiança não se constrói com eficiência técnica. Constrói-se com legitimidade percebida e transparência nos critérios.”
O risco de enviesamentos invisíveis
Mesmo quando não existe intenção discriminatória, algoritmos treinados com dados históricos podem reproduzir desigualdades existentes nas organizações. “O risco mais sério não é a discriminação intencional, mas sim a reprodução automática de padrões históricos.” Entre os exemplos apontados está o de algoritmos de promoção que, ao longo do tempo, atribuem classificações sistematicamente mais baixas a determinados grupos, mesmo quando os indicadores de desempenho são comparáveis.
Outras situações podem surgir quando determinadas variáveis funcionam como substitutos indiretos de características protegidas. O código postal pode refletir contexto socioeconómico, a universidade frequentada pode indicar classe social ou interrupções de carreira podem funcionar como indicador indireto de maternidade. “Mesmo que o modelo não utilize explicitamente género ou etnia, pode reproduzir enviesamentos por meio de variáveis correlacionadas.”
Para reduzir estes riscos, o responsável considera essencial recorrer a auditorias independentes, testes de impacto discriminatório e monitorização contínua dos sistemas. “A ética algorítmica não é um evento pontual. É um processo contínuo”, insiste.
Neste contexto, o enquadramento europeu reforça a necessidade de governação destas tecnologias. Para Joaquim Jorge, o erro estratégico mais comum será tratar estes sistemas como simples ferramentas operacionais. “Sistemas de IA utilizados em recrutamento, avaliação de desempenho, promoção ou gestão de risco humano não são meras ferramentas operacionais; são infraestruturas de decisão.”
Face a este cenário, defende modelos de decisão híbridos, em que algoritmos e humanos trabalham em conjunto. A IA pode estruturar informação complexa, identificar padrões e reduzir inconsistências na análise de dados. Mas a decisão final deve permanecer no domínio humano. “Um modelo híbrido bem concebido mantém a IA no processo, mas preserva o humano no centro da decisão.”
Na gestão de pessoas esta distinção é fundamental. Promoções, avaliações de desempenho ou processos disciplinares não são apenas exercícios de otimização. São atos de liderança. “Automatizar o discernimento é abdicar da liderança.”
Estamos a delegar demasiado nas ferramentas generativas?
Outro tema que começa a emergir nas organizações é o impacto da utilização crescente de ferramentas de IA generativa no trabalho quotidiano das equipas. A produção de relatórios, a definição de objetivos ou a preparação de comunicações internas são algumas das tarefas onde estas ferramentas começam a ser usadas com maior frequência.
Embora reconheça ganhos de eficiência, Joaquim Jorge alerta para efeitos menos visíveis no funcionamento das organizações. “A IA generativa introduz eficiência, mas também riscos subtis: homogeneização do discurso, diluição da autoria e redução do pensamento crítico e castração da criatividade”, afirma.
Segundo o investigador, quando a utilização destas ferramentas se torna sistemática, pode surgir um fenómeno de padronização silenciosa do pensamento organizacional. “Se os relatórios, as avaliações e as comunicações internas passam a ser sistematicamente assistidos por sistemas generativos, pode ocorrer uma padronização invisível do raciocínio organizacional.” Por essa razão, considera essencial que as organizações definam princípios claros para a utilização destas tecnologias: “As ferramentas devem apoiar o pensamento criativo, não substituí-lo”.
Também ao nível da governação tecnológica, o especialista defende que muitas organizações ainda encaram a IA de forma demasiado instrumental. Na sua perspetiva, a adoção destas soluções exige um nível de maturidade institucional que vai além da simples implementação técnica. Como refere Joaquim Jorge, “delegar a decisão a mecanismos automáticos é um erro. Delegar a responsabilidade aos algoritmos é inaceitável”.
É neste ponto que ganha relevância o conceito de decisão híbrida. Em vez de substituir o julgamento humano, a IA pode funcionar como uma camada adicional de análise, ajudando líderes e gestores a interpretar informação complexa e a identificar padrões que dificilmente seriam visíveis numa avaliação puramente manual.
AI Act: datas-chave
O Artificial Intelligence ACT é o regulamento da UE que estabelece regras para o uso de sistemas de IA, incluindo aplicações no emprego classificadas como de alto risco
- 1 de agosto de 2024: entrada em vigor
- Fevereiro de 2025: proibição de práticas de IA inaceitáveis, como manipulação ou vigilância abusiva
- Agosto de 2026: novas regras aplicam-se a sistemas de IA de alto risco, como recrutamento
Artigo publicado na edição 163 da RHmagazine, referente aos meses de março e abril de 2026
Aproveite e leia já as últimas edições da RHmagazine AQUI
