A
OpenAI emitiu um alerta global sobre os perigos associados ao desenvolvimento de sistemas de IA capazes de superar a cognição humana – a chamada superinteligência. A declaração, feita três anos após o lançamento do ChatGPT, reconhece os benefícos da tecnologia, mas sublinha a necessidade urgente de criar mecanismos de controlo robustos.
Na nota citada pela Forbes, a OpenAI afirma: “Embora os potenciais benefícios sejam enormes, tratamos os riscos dos sistemas superinteligentes como potencialmente catastróficos e acreditamos que o estudo empírico da segurança e do alinhamento pode ajudar decisões globais, como a necessidade de abrandar o desenvolvimento para estudar cuidadosamente estes sistemas quando nos aproximarmos de capacidades de autoaperfeiçoamento recursivo”.
A tecnológica defende que nenhum sistema superinteligente deve ser implementado sem garantias sólidas de controlo e reforça a urgência de criar um verdadeiro “ecossistema de resiliência”, semelhante ao que foi desenvolvido na área da cibersegurança com a expansão da internet. Quando a internet surgiu, não a protegemos com uma única política ou empresa – construímos um campo inteiro de cibersegurança (…). Precisaremos de algo análogo para a IA e os governos terão um papel determinante na promoção de políticas“, acrescenta.
O que pode mudar já nos próximos anos?
A Forbes recorda que o impacto da IA no emprego já está em curso. O Fórum Económico Mundial prevê que cerca de 93 milhões de empregos possam ser afetados nos próximos anos, embora mais de 70 milhões de novas funções venham a surgir. De acordo com estimativas citadas pela Forbes, poderão ser necessários mais de 52 mil especialistas em cibersegurança nos Estados Unidos até 2034, com um crescimento de emprego previsto de 29%.
Segundo a Forbes, o alerta da OpenAI poderá acelerar o aparecimento de funções como:
- Consultor de risco/safety de IA;
- Especialista em governação e conformidade de IA;
- Analista de segurança de IA;
- Gestor de supervisão humana de agentes autónomos;
- Especialista em IA dentro dos recursos humanos (para investigação de uso indevido, ética e política interna).
Como devem os profissionais preparar-se?
Entre as recomendações da Forbes estão:
- Atualizar competências a cada seis meses;
- Estudar governação, ética e segurança da IA;
- Documentar práticas internas de mitigação de riscos para reforçar o currículo;
- Incluir o tema da utilização responsável de IA nas avaliações de desempenho e reuniões com gestores.
Aproveite e leia já as últimas edições da RHmagazine AQUI
