Num momento em que a inteligência artificial (IA) evolui a um ritmo vertiginoso, um consenso internacional traça o caminho para garantir que esta revolução tecnológica decorre de forma segura, fiável e ética.
A 8 de maio de 2025, foi publicado o Singapore Consensus on Global AI Safety Research Priorities, um documento de referência que reúne mais de uma centena de especialistas de universidades, centros de investigação, governos e empresas tecnológicas de 11 países. O objetivo? Definir prioridades claras para uma investigação robusta em segurança da inteligência artificial, com foco na construção de ecossistemas de IA que sejam fiáveis, seguros e alinhados com os valores humanos.
Este consenso surge num contexto de acelerada transformação digital, onde os sistemas de IA – especialmente os modelos de uso geral, como os modelos de linguagem – têm um impacto crescente no mercado de trabalho, nas interações sociais e na própria tomada de decisão organizacional e governamental.
Três pilares para a segurança técnica da IA
O relatório estrutura-se em torno de três áreas-chave:
1. Avaliação de riscos (Risk Assessment):
A avaliação rigorosa dos riscos é essencial para determinar a gravidade e a probabilidade de danos potenciais causados por sistemas de IA. As prioridades incluem:
– Técnicas de auditoria e benchmarks para detectar comportamentos perigosos;
– Avaliação dos impactos a jusante (como desinformação, privacidade ou desigualdade laboral);
– Infraestruturas seguras de avaliação, que permitam auditorias independentes sem comprometer a propriedade intelectual;
– Estudos sobre a perda de controlo e capacidades perigosas (incluindo usos dual, como ciberataques ou manipulação psicológica).
2. Desenvolvimento de sistemas fiáveis, seguros e robustos (Development):
Esta secção propõe métodos técnicos para assegurar que os sistemas de IA são seguros “por design”, nomeadamente:
– Definição clara dos comportamentos desejados e mecanismos de validação;
– Construção de modelos resistentes a ataques, falhas e manipulações;
– Garantias formais de que os sistemas cumprem as suas especificações;
– Edição dirigida de modelos, para corrigir comportamentos indesejados com precisão;
– Redução de capacidades perigosas através de limitação da autonomia, da generalização ou da inteligência.
3. Controlo e intervenção (Control):
Após o desenvolvimento e a implementação, é essencial garantir mecanismos de monitorização contínua e capacidade de intervenção. O documento sugere:
– Monitorização em tempo real do comportamento dos sistemas de IA;
– Supervisão do ecossistema mais vasto de IA, com foco em riscos sistémicos;
– Investigação sobre a resiliência societal, com vista a reforçar infraestruturas económicas e de segurança diante de possíveis disrupções provocadas por IA avançada.
Um apelo à colaboração global
Inspirado pelo International AI Safety Report (IAISR) e co-organizado por figuras como Max Tegmark e Yoshua Bengio, o consenso de Singapura defende uma abordagem cooperativa, comparando a partilha de práticas de segurança em IA com a existente na aviação entre Boeing e Airbus. A ideia central é que a segurança da IA não é uma vantagem competitiva, mas sim um bem comum: todos perdem quando um sistema falha.
O documento representa um passo decisivo na promoção de uma IA centrada no ser humano, onde o progresso tecnológico não compromete a segurança, a fiabilidade ou os direitos fundamentais. Ao incentivar uma investigação estruturada, transparente e colaborativa, o Singapore Consensus oferece às organizações, governos e investigadores um roteiro para navegarem os desafios – e oportunidades – da inteligência artificial no século XXI.
