Volker
Türk, o alto comissário da Organização das Nações Unidas (ONU) para os Direitos
Humanos, alerta que a inteligência artificial (IA) avançada pode representar um
“risco existencial para a Humanidade” e apelou à ação imediata para tornar esta
tecnologia mais segura, designadamente, pela criação urgente de salvaguardas
globais, de mecanismos independentes de controlo e de limites consensuais.
Num
discurso, a 7 de setembro, no Conselho de Direitos Humanos da ONU, Volker Türk
afirmou que as pessoas enfrentam ameaças “desconhecidas, até sem precedentes”,
aos seus direitos. “A necessidade de uma governação da IA é amplamente
reconhecida, mas onde está a ação?” questionou, avisando que “o atraso só
beneficia as grandes empresas tecnológicas, os seus proprietários e
facilitadores”.
Na
verdade, como afirmou Volker Türk, “um punhado de homens tem um poder quase
ilimitado sobre a IA, que nos dizem, repetidamente, ter uma capacidade de
computação inimaginável”. “Falam de liberdade, mas, olhando melhor, isso
revela-se pouco mais do que a liberdade para explorar os nossos dados”, vincou,
apontando para sistemas de IA que escapam aos ambientes de teste ou chantageiam
programadores, para evitarem ser desligados.
De
acordo com a AFP, Türk avisou que “uma IA que escapa ao seu ambiente de
teste ou chantageia programadores, para impedir que a desliguem é uma IA
demasiado poderosa”. Tais declarações referem-se, em parte, às revelações, em
julho, de que agentes da OpenAI escaparam a ambientes supostamente controlados
e acederam a servidores da Hugging Face, uma plataforma amplamente utilizada
onde programadores partilham software de IA.
O
comissário da ONU referiu que agentes da OpenAI executaram um código em dezenas
de servidores da Hugging Face e obtido acesso total a um deles, e que o
incidente reavivou apelos a supervisão mais apertada dos sistemas de IA
avançada. A Anthropic, a Meta e outras empresas tecnológicas relataram
incidentes similares, envolvendo agentes, em fases de teste. “Partilho as
preocupações de membros da indústria de que a IA avançada possa representar um
risco existencial para a Humanidade. […] Apelo aqui, hoje, a um esforço total
para estabelecer garantias sólidas, em torno da segurança e da proteção da IA,
antes que seja demasiado tarde”, afirmou Türk, prometendo escrever, em breve,
às empresas de IA, a exortá-las a tomarem medidas imediatas para reduzir os
riscos que estão sob o seu controlo.
“No
mínimo, precisamos que os países que acolhem a IA e os que integram as
respetivas cadeias de fornecimento se juntem em torno de linhas vermelhas
acordadas. […] Precisamos de verificação independente e de colaboração mais
forte em matéria de segurança, na própria indústria. […] É também necessário
ponderar o impacto da IA nos direitos humanos, nas práticas laborais, nos
princípios fundamentais da democracia e no nosso ambiente”, frisou.
***
A
21 de julho, a criadora do ChatGPT, a OpenAI, afirmou que o seu sistema
de IA invadiu, autonomamente, outra empresa de IA, num episódio que descreveu
como “incidente cibernético sem precedentes”. E a startup de IA Hugging Face
disse, na semana anterior, que detetara uma intrusão nos seus sistemas de
processamento de dados, que suspeitava ter sido causada por um agente de IA a
atuar de forma autónoma. “Suspeitávamos que o ciberataque da semana passada
pudesse ter vindo de um laboratório de ponta, dada a sofisticação do agente.
[…] Afinal veio mesmo!”, afirmou, em comunicado, Clément Delangue, cofundador e
presidente-executivo da Hugging Face.
O
ataque era tão avançado e bem executado que a Hugging Face suspeitou, desde o
início, que tinha origem nos sistemas de uma das grandes empresas de IA, e não
num pirata informático.
Num
teste interno, a OpenAI procurava medir até que ponto os seus modelos de IA
conseguiam invadir sistemas, num exercício conhecido como ExploitGym.
Para avaliar a capacidade máxima de intrusão dos modelos, a empresa desligou,
propositadamente, os filtros de segurança que, normalmente, impedem atividades
cibernéticas perigosas. O teste deveria decorrer num sandbox, ambiente isolado
sem acesso real à Internet, exceto por uma ferramenta que permitia aos
modelos descarregar software de que precisassem para cumprir a tarefa.
Contudo,
os modelos ficaram obcecados em resolver o teste. Em vez de o fazerem pela via
prevista, procuraram um atalho e encontraram uma forma de chegar ao espaço
aberto da Internet, a que não deveriam aceder. Para lá chegarem,
seguiram uma cadeia de passos, ampliando, silenciosamente, os seus níveis de
acesso dentro dos próprios sistemas da OpenAI, até encontrarem um ponto com
ligação à Internet. Já online, os modelos concluíram que a
Hugging Face, uma grande plataforma que aloja modelos de IA e conjuntos de
dados, provavelmente, tinha as respostas do próprio teste que estavam a tentar
resolver. Invadiram, assim, os servidores da Hugging Face, para obter essas
respostas. Basicamente, fizeram batota, recorrendo a credenciais de acesso
roubadas e a outras vulnerabilidades.
Esta
revelação surgiu num tempo de crescente preocupação com as capacidades de
cibersegurança dos modelos mais potentes, que levaram, em junho, o presidente
dos Estados Unidos da América (EUA), Donald Trump, a assinar uma ordem
executiva que cria um quadro para o governo federal avaliar, durante até um mês
antes da sua divulgação pública, os riscos para a segurança nacional dos
sistemas de IA mais avançados.
Segundo
a OpenAI, a intrusão foi provocada pela combinação dos seus modelos de IA,
incluindo o recém-lançado GPT-5.6 Sol e um modelo “ainda mais capaz” que
continua em testes internos; a IA utilizou credenciais roubadas e descobriu uma
vulnerabilidade, até então desconhecida, para aceder aos servidores da Hugging
Face; e o sistema, que foi “ao limite, para alcançar um objetivo de teste
bastante restrito”, “encontrou formas de obter acesso a informação confidencial
que podia usar para manipular a avaliação”.
Por
conseguinte, a empresa que desenvolve o ChatGPT deliberou, em meados de
agosto, abrandar o ritmo da sua investigação mais avançada, incluindo o maior
treino de aprendizagem por reforço que previra realizar, semanas depois de um
sistema construído com os seus próprios modelos ter escapado a um teste interno
de segurança e ter invadido a plataforma de IA Hugging Face. A este respeito, o
diretor executivo, Sam Altman, prometeu que a OpenAI se coordenará com o resto
do setor em regras de segurança comuns, mas que, “até lá”, agirá de forma
unilateral.
Um
novo sistema de deteção escrutina, em tempo real, a atividade dos modelos e
procura sinalizar, em 30 minutos, qualquer comportamento que se assemelhe a
acessos não autorizados ou a tentativas de desativar salvaguardas, a um custo
computacional que a OpenAI estima em cerca de 20% da capacidade de
processamento monitorizada. A empresa diz que estas mudanças já estavam
previstas e não resultam do incidente, embora o episódio tenha acelerado o
processo.
A
OpenAI e a Anthropic apoiaram, em separado, uma petição promovida por
trabalhadores que apela aos governos para ajudarem a coordenar a velocidade a
que o setor avança, marcando uma mudança, em relação à resistência anterior de
Altman a pedidos públicos para abrandar o desenvolvimento da IA.
***
Centros
de dados enfrentam crescente revolta nos EUA, devido à quantidade de água e de eletricidade
que consomem. As gigantes tecnológicas que investem milhares de milhões de
dólares nestas instalações dizem que, pelo menos, no atinente à água, o
problema é resolúvel.
Os
centros de dados são armazéns repletos de servidores informáticos que alimentam
a Internet e, cada vez mais, a IA. Esses computadores geram calor e a
sua refrigeração exige grandes quantidades de água. Segundo a consultora Rystad
Energy, em 2025, centros de dados em todo o Mundo consumiram 222 mil milhões de
litros (59 mil milhões de galões) de água para arrefecimento. E, sem medidas
para reduzir o consumo, tal valor poderá quase triplicar para 644 mil milhões
de litros, até 2030. Porém, a consultora sustenta que medidas para limitar o
uso da água podem manter o aumento abaixo dos 100%.
A
Nvidia, fabricante norte-americana de chips, afirmou, num relatório
publicado em junho, que o seu mais recente sistema de conceção e gestão de
centros de dados de IA, conhecido como DSX, pode, praticamente, eliminar
o consumo de água em algumas instalações. É uma afirmação ambiciosa e o setor
enfrenta uma pressão crescente para a concretizar.
O
sistema da Nvidia recorre a arrefecimento em circuito fechado, com líquido a
circular, diretamente, pelos servidores e o mais perto possível dos chips,
que podem atingir temperaturas superiores a 80º C (graus Celsius) e 176º F
(Fahrenheit). Todavia, reduzir o consumo de água pode implicar custos
adicionais. “Há relação bastante direta entre a quantidade de água utilizada e
a quantidade de energia necessária” para controlar as temperaturas, afirmou
Andy Masley, investigador independente especializado em IA e centros de dados, sustentando
que usar menos água exige mais eletricidade, porque o líquido que circula em
tubagens estanques tem de ser arrefecido, muitas vezes, através de fluxos de
ar.
A
Nvidia contorna parte do problema, ao deixar que o líquido entre nos servidores
mais quente do que é habitual, a 45º C. A maioria dos outros sistemas em
circuito fechado funcionava em torno dos 32º C, em 2024, segundo o Uptime
Institute, que certifica centros de dados.
Partindo
de água mais quente, a Nvidia não precisa de injetar ar frio, ao longo do ano. “Simples
ventoinhas a fazer circular o ar” são, muitas vezes, suficientes, embora, por
vezes, seja necessário combinar métodos, afirmou Josh Parker, responsável pela
sustentabilidade na Nvidia, referindo que, em locais com climas extremamente
quentes ou durante ondas de calor, ar refrigerado ou sistemas de arrefecimento
por evaporação podem continuar a ser necessários.
A
Microsoft, a Amazon Web Services (AWS) e a Meta disseram à AFP que
utilizam sistemas de arrefecimento em circuito fechado, que não provocam
qualquer perda líquida de água.
A
Microsoft e a WS, duas das maiores empresas de computação na nuvem do Mundo,
consumiram mais água no total, entre 2022 e 2025, à medida que expandiram as
operações dos seus centros de dados. No entanto, a eficiência do uso da água
melhorou 25%, na Microsoft, e 37%, na AWS, de acordo com os seus relatórios de
sustentabilidade mais recentes.
As
comparações são difíceis por não haver um padrão transversal ao setor que
regulamente a forma como as empresas comunicam os seus esforços ambientais,
sociais e de governação. A SpaceX, de Elon Musk, que se tornou importante
operador de centros de dados, depois de adquirir a sua empresa de IA xAI, nunca
publicou um relatório ESG (environmental, social and governance: ambiental,
social e de governação). Em junho, a agência de notação MSCI atribuiu à SpaceX (empresa
norte-americana de voos espaciais, telecomunicações e IA) a sua classificação
ESG mais baixa.
“Como
a água é, em geral, muito mais barata do que a eletricidade, as empresas têm
menos incentivos para reduzir o uso de água apenas com base nos custos”,
afirmou Shaolei Ren, professor de engenharia na Universidade da Califórnia,
Riverside, reconhecendo que “há incentivos”, mas que são, sobretudo, motivados
por preocupações de imagem pública, numa altura em que a oposição aos centros
de dados cresce em todo o país.
Outro
problema é o custo de modernizar centros de dados mais antigos com tecnologia
mais recente, que consome menos água. Porém, as instalações mais antigas são,
geralmente, mais pequenas e menos potentes do que os enormes centros de dados,
atualmente, em construção, o que significa que precisam de menos arrefecimento,
à partida.
A
água utilizada, diretamente, pelos centros de dados é apenas uma parte da sua
pegada global. É também necessária água para produzir a eletricidade que os
alimenta e para fabricar os respetivos chips e servidores. E, nos EUA,
este uso indireto de água pode ser duas vezes superior ao volume consumido
pelos próprios centros de dados.
***
Há
três anos, a utilização de IA na agricultura cingia‑se ao cálculo de inventário
e era oferecida como produto especializado por empresas com stands bem
atrás dos fabricantes de tratores, mas, hoje, a IA está a transformar a forma
de produção de alimentos e de rações.
No
atinente à monitorização das culturas, drones e imagens de satélite alimentam
modelos de visão computacional que detetam infeções fúngicas ou pragas, antes do
olho humano, e sugerem a aplicação de produtos de proteção das culturas, ou
pesticidas, de forma mais eficaz. E, se os agricultores utilizarem sensores de
solo, o conjunto de dados fica mais completo.
Na
previsão da produção, o recurso a sensores permite aos agricultores terem o
inventário do que já colheram e o do que estão prestes a colher. A Syngenta
desenvolveu uma GenAI que atinge 95% de precisão, na previsão de
rendimentos e que faz recomendações sobre a colocação das sementes. A previsão
é importante, porque os agricultores precisam de preparar, antecipadamente, a
logística das culturas. Quanto mais informação rigorosa fornecerem a
retalhistas e a empresas de transporte, menos dinheiro perdem.
No
âmbito da robótica na agricultura, a robótica expande‑se num contexto marcado
pela IA. Não se trata só de veículos autónomos a conduzir‑nos pelas cidades,
mas também de tratores e de outros equipamentos de campo, que podem ser
automatizados com IA.
Na
rega de precisão, que dependia, até agora, sobretudo, da experiência do
agricultor, estão a ser usados sistemas de fusão de sensores que combinam
humidade do solo, temperatura da copa das plantas e previsões meteorológicas,
para reduzir o consumo de água, em cerca de 30%, mas aumentando a produtividade
em algumas aplicações (num caso documentado em plantações de cana‑de‑açúcar, na
Índia, a redução de 30% na água foi acompanhada do aumento de 40% no
rendimento). E sistemas de pulverização de taxa variável aplicam pesticidas,
apenas onde são necessários, reduzindo os volumes de químicos e criando
registos de auditoria que facilitam o cumprimento das normas.
E,
na pecuária, soluções de IA recorrem à visão computacional e a sensores
vestíveis (acelerómetros, monitores biométricos) para detetar sinais de doença,
vários dias antes de surgirem sintomas visíveis, o que reduz o uso de
antibióticos e melhora os indicadores de bem‑estar animal, cada vez mais
relevantes, face ao aumento da pressão regulatória e dos retalhistas sobre o
uso de antibióticos na carne e nos lacticínios.
***
Como
se vê, a IA tem mau e bom. Precisa de ser regulamentada, bem aplicada e
arredada de utilização danosa. Assim, na União Europeia (UE), a lei da IA estipula
o seu enquadramento jurídico, segundo o qual os sistemas de alto risco têm de
cumprir requisitos rigorosos, antes de entrarem no mercado da UE, sendo
proibidas utilizações consideradas ameaça inaceitável para a segurança ou para os
direitos das pessoas, nomeadamente, pelas vias de manipulação, da exploração ou
pela silenciosa ou expressa indução de crime.
2026.09.07
– Louro de Carvalho