Com
a entrada em vigor, em 2 de agosto, das amplas regras de transparência da União
Europeia (UE) sobre inteligência artificial (IA), os deepfakes e
outros conteúdos gerados por IA passam a ter de ser rotulados. Ou seja, empresas
que criam ou utilizam conteúdos gerados por IA têm de os identificar,
claramente. O objetivo é garantir que os europeus saibam, de imediato, se os
conteúdos que veem online são reais ou falsos.
A
lei abrangente da UE sobre IA entra em vigor por fases. A partir do dia 2, as
empresas têm de garantir que sistemas, como chatbots, deixam claro aos
utilizadores que são IA e que, quando uma imagem ou texto é criado com recurso
a IA, existe indicação a dizê-lo. Isso pode ser reproduzido, através de marcas
de água e de outros identificadores que permitem detetar, facilmente, conteúdos
gerados por IA. As empresas arriscam coimas elevadas, se não cumprirem.
As
orientações estipulam, ainda, que quem utiliza sistemas de IA tem de informar
as pessoas quando estas são expostas a: ferramentas de reconhecimento de
emoções e de categorização biométrica; a deepfakes; a publicações de
textos sobre questões de interesse público sem revisão humana ou controlo
editorial.
“A
inteligência artificial generativa permite criar desinformação numa escala sem
precedentes, adaptada a públicos específicos e difundida a uma velocidade
impressionante”, afirmou um responsável da UE, o qual explicitou que, estando a
IA a tornar “cada vez mais difícil, para todos nós, distinguir o que é real do
que é sintético”, as regras da UE procuram “preservar a capacidade de os
cidadãos confiarem no que veem, ouvem e leem”.
Motivo
particular de preocupação, para a UE, são os deepfakes, textos, imagens,
vídeos e sons que parecem reais, mas que são gerados ou manipulados por IA.
As
regras abrangem conteúdos produzidos para fins profissionais, não sendo
abrangidos, segundo a UE, particulares que utilizem IA apenas em contexto
pessoal. Já textos que pretendam informar o público sobre temas de interesse
geral também terão de ser rotulados, se forem criados com recurso a IA, sem
supervisão editorial humana.
Os
sistemas de IA já existentes têm até 2 de dezembro de 2026 para se adaptarem às
novas regras, mas há exceções para trabalhos “artísticos, criativos,
satíricos, ficcionais”.
A
UE tem sido criticada por impor mais exigências às empresas e por estipular regras
que, face ao uso crescente e generalizado da IA, na Europa, poderão acabar por
obrigar a rotular, praticamente, todos os conteúdos. “Temos ouvido que vai ser
muito, muito difícil de aplicar. Mas penso que isso é algo que ouvimos, muitas
vezes, quando há novas obrigações de conformidade. E, no entanto, o Mundo
continua a girar e acabamos por encontrar soluções”, afirmou Ashley Casovan, da
International Association of Privacy Professionals.
Os
gigantes tecnológicos mundiais já começaram a aplicar os seus próprios rótulos,
antecipando-se às regras. Por exemplo, o TikTok exige, há vários anos,
que os criadores de conteúdos identifiquem imagens, sons e vídeos gerados por
IA, e afirma que mais de três mil milhões de conteúdos já estão rotulados,
graças a ferramentas e a tecnologia de deteção.
Da
mesma forma, a Meta introduziu a menção “AI Info” no Instagram e no Facebook,
para publicações que recorrem à tecnologia.
A
Google assinou o código de conduta da UE sobre transparência em IA e diz estar
a trabalhar com empresas, como a Nvidia, a OpenAI e a Apple, em ferramentas de
marcação digital. Todavia, Karen Massin, da Google, alerta que a complexidade
regulamentar pode ser contraproducente e “corre o risco de confundir as pessoas
que estas regras pretendem ajudar”. “Se os conteúdos online forem
inundados de rótulos de IA sobrepostos e avisos legais, torna-se mais difícil
para as pessoas obterem o contexto claro de que precisam”, adverte.
***
Também
Portugal tem vindo a preparar-se para acolher as novas regras, com a consciência
dos riscos da IA. Com efeito, a IA facilita a vida em mil aspetos, mas, por
trás dessa ajuda invisível, esconde-se o lado menos inocente, o nascimento dos deepfakes:
falsificações tão realistas que transformam a mentira em verdade, diante dos
nossos olhos.
Um
estudo da iProov, realizado em 2025, revela que 74% das pessoas manifestou
preocupação com o impacto social dos deepfakes; 22% dos inquiridos
admitiu nunca ter ouvido falar do termo deepfake; e 49% afirmou sentir
menos segurança nas redes sociais desde que soube da existência destes
conteúdos falsos (perda de confiança).
O
termo deepfake junta, por amálgama e por abreviação, dois termos e
conceitos: deep learning (aprendizagem profunda, um ramo da IA) e fake
(falso). Trata-se de conteúdos (vídeos, áudios ou imagens) criados ou
manipulados com recurso à IA, de modo tão convincente que parecem autênticos. Este
tipo de tecnologia tem duas faces. De um lado, há aplicações positivas, como no
cinema ou na publicidade, que se usam para rejuvenescimento de atores ou para criação
de efeitos especiais. Do outro, há o lado sombrio: manipulações feitas, para
enganar, para difamar, para extorquir ou para espalhar desinformação.
Por
trás dos deepfakes está um tipo de IA que “aprende” a imitar padrões
humanos; analisa milhares de imagens ou de gravações reais, para perceber como
alguém fala, se movimenta ou expressa emoções; e, depois, utiliza tal
informação para gerar novas versões: falsas, mas incrivelmente realistas. Tal
processo acontece, através de duas redes neurais que trabalham em conjunto: uma
cria o conteúdo falso e a outra tenta detetá-lo. É o jogo constante entre
criador e verificador, em que cada tentativa aperfeiçoa o resultado. Com o
tempo, os vídeos tornam-se tão perfeitos que os especialistas têm dificuldade
em distinguir o real do manipulado.
Os
mais comuns são os deepfakes em vídeo, onde o rosto ou o corpo de uma
pessoa é substituído pelo de outra. É o tipo de manipulação mais partilhado e o
mais perigoso, porque combina imagem, voz e movimento. Porém, deepfakes
de áudio clonam a voz de alguém, com base em pequenas amostras gravadas, bastando
poucos segundos para reproduzirem timbre, ritmo e emoção, com espantosa
precisão.
Por
exemplo, quando uma voz familiar pede uma transferência urgente de dinheiro, a
voz é igual, as expressões são as mesmas, mas pode não ser quem se pensa. Os
deepfakes de voz e de vídeo reproduzem tons, pausas e emoções reais. Por
isso, nestes casos, nunca se deve agir de imediato, mas fazer uma pausa, desligar
e confirmar o pedido por outro canal, ligando, diretamente, à pessoa em causa ou
enviar uma mensagem por um número que já se conhece. Se o pedido for legítimo,
a pessoa compreenderá. Porém, se for um deepfake, evitou-se uma burla.
Há,
ainda, os deepfakes de imagem, que fabricam rostos ou fotografias inteiras que
nunca existiram. Muitas vezes, são usados, de forma abusiva, como no caso da
pornografia não consensual ou na criação de perfis falsos nas redes sociais.
O
impacto dos deepfakes vai muito além de vídeos manipulados. É fenómeno
que mexe com a confiança. E, quando a confiança se quebra, tudo o resto fica em
causa. Nas redes sociais, estas falsificações são terreno fértil para a
desinformação. Um político pode ser apanhado a dizer algo que não disse, ou uma
figura pública pode ser alvo de difamação. É a erosão da credibilidade das
instituições e a criação de dúvidas sobre tudo o que se vê e ouve.
No
mundo empresarial, o perigo é, igualmente, real. Em 2024, uma empresa britânica
perdeu 25 milhões de dólares, após os funcionários terem sido enganados numa
videochamada, onde todos os participantes (inclusive, o diretor financeiro)
eram falsificações criadas por IA.
E
há, ainda, a dimensão mais íntima: a utilização de deepfakes para criar
pornografia sem consentimento. Rostos de pessoas (muitas vezes, mulheres e até
menores) são sobrepostos a corpos alheios, em vídeos sexualmente explícitos que
circulam na Internet sem controlo. Além do dano psicológico, as
consequências legais e reputacionais são devastadoras.
Detetar
um deepfake é como jogar um jogo de diferenças, cada vez mais difícil. Contudo,
há pequenos sinais que denunciam o falso. Por conseguinte, há que abrandar,
observar com calma e deixar que o cérebro faça o que a IA ainda não domina:
reparar nos pormenores.
Algo
bem feito engana, mas raramente é perfeito. Escapam alguns detalhes (e “o diabo
está nos detalhes”), tais como: luz e sombras fora do sítio (rosto a parecer
iluminado de modo diferente do fundo ou sombras a moverem-se de forma estranha);
pele demasiado lisa ou com brilho artificial (texturas “plastificadas” ou a mudar,
ligeiramente, entre frames, isto é, imagens fixas individuais que, juntas
e em sequência rápida, criam a ilusão de movimento); expressões faciais pouco
naturais (movimentos labiais, sobrancelhas ou olhos que não combinam com a
emoção do momento); olhos que não piscam ou piscam de jeito estranha (foi o erro
favorito das falsificações; as versões recentes piscam, mas, muitas vezes, de
modo mecânico e repetitivo); e cortes bruscos ou falhas de continuidade (pequeno
salto no vídeo, mudança súbita de ângulo ou transição demasiado perfeita).
Nenhum
destes sinais é garantia absoluta, mas juntos ajudam a afinar o olhar para
distinguir o real do fabricado.
As
vozes clonadas são cada vez mais convincentes, mas têm falhas subtis. É de
reparar em respirações e pausas pouco humanas (falta de fôlego, silêncios muito
curtos ou ritmo quase robótico); entoação plana ou emocionalmente neutra (os deepfakes
de voz captam, raramente, variações naturais, como hesitações, risos e suspiros);
ruído de fundo incoerente (se o som ambiente não condiz com o local: por
exemplo, voz de “gabinete” com eco de sala grande), algo estará errado); e respostas
imediatas, sem tempo de reação (os deepfakes de voz gerados por IA
respondem, quase instantaneamente: rapidez que soa mais a máquina do que a
pessoa).
Em
Portugal, não há lei específica sobre deepfakes, mas várias normas permitem
agir: o Código Civil protege o direito à imagem; o Código Penal
abrange crimes, como burla, difamação ou falsidade informática; e o Regulamento
Geral sobre a Proteção de Dados RGPD trata a imagem e a voz como dados pessoais,
o que torna ilegal a sua utilização, sem consentimento.
A
nível europeu, o Regulamento da Inteligência Artificial (AI Act) exige que os
conteúdos gerados por IA sejam claramente identificados; e o Regulamento de
Serviços Digitais (DSA) obriga as plataformas a detetarem e removerem,
rapidamente conteúdos falsos.
Até
à entrada em vigor total do AI Act, o que já aconteceu, Portugal continua a
aplicar aos casos de falsificação digital as leis civis, penais e de proteção
de dados.
Não
é preciso ser perito em tecnologia para se proteger. Basta algum sentido
crítico, calma e curiosidade. E pequenas atitudes fazem a diferença: desconfiar
do “urgente”; verificar a fonte; observar com calma; recorrer a
ferramentas de verificação (plataformas, como o TrueMedia, o Deepware
ou o DeepFake-o-Meter, analisando vídeos e calculando a probabilidade de
manipulação, ajudam a confirmar suspeitas e a evitar partilhas precipitadas); proteger
cada um a sua privacidade; e cultivar o olho crítico em casa.
Quanto
menos fotos e vídeos pessoais estiverem disponíveis online, mais difícil
será alguém usá-los para criar deepfakes. São, pois, de evitar publicar
conteúdos íntimos, sobretudo de crianças, e rever as definições de privacidade
nas redes sociais. A literacia digital é o escudo mais eficaz. Conversar com
familiares sobre o tema e incentivar todos a fazerem perguntas simples, antes
de acreditar em algo, são precauções acessíveis a toda a gente.
Em
Portugal, quase metade das pessoas não sabe como denunciar um deepfake.
Isso mostra que, além de tecnologia e das leis, é preciso reforçar a literacia
digital. Por exemplo, se alguém for vítima, importa que aja, rapidamente: guardar
provas (links, capturas de ecrã, datas e ficheiros) e apresentar queixa
na Polícia Judiciária (PJ), através do portal qe.pj.pt; ou contactar a Linha
Internet Segura (800219090) ou recorrer ao site Queixa Eletrónica.
Também
as instituições financeiras têm papel relevante na proteção contra os deepfakes.
Efetivamente, os deepfakes abriram a via a um novo tipo de fraude
digital, mais sofisticada e mais difícil de detetar. Para enfrentar esta
realidade, a banca está a combater a nova geração de burlas com a mesma arma
que as origina, a tecnologia, ou seja, monitorizando transações com recurso a IA
capaz de identificar padrões anómalos: valores fora do habitual, pedidos
urgentes, horários invulgares ou destinatários recentes. Estes sistemas não
substituem o olhar humano, mas acrescentam uma camada de proteção que funciona
24 horas, por dia.
Para
reduzir o risco de burlas baseadas em deepfakes, a banca está a investir
em tecnologias de verificação de “vivacidade”: mecanismos que distinguem uma
pessoa real de uma imagem ou voz gerada por IA. E está a reforçar os processos
de autenticação multifator, exigindo mais do que um simples código ou
confirmação num clique, para validar operações sensíveis.
Além
disso, promove a educação dos clientes sobre riscos digitais, por meio de campanhas
de literacia digital e financeira, que alertam para esquemas de fraude,
explicam como reconhecer pedidos suspeitos e incentivam à verificação por outro
canal, aliás como indicado supra.
Nunca
se devem partilhar dados e deve fazer-se confirmação, sempre, por outro canal.
Pode parecer um pedido ou sugestão real, mas é conveniente verificar sinais
suspeitos na imagem ou linguagem usados, pois pode ser falso. Porém, apesar da
literacia pessoal, não é dispensável a consulta das entidades públicas ou
privadas especialistas em cada matéria.
***
Esta
legislação, aprovada em 2024, atinge, agora, um marco crucial para garantir que
os cidadãos sabem quando estão a interagir com tecnologias automatizadas, a ler
textos e a ver imagens geradas por IA.
A
lei já proíbe, desde 2025, práticas, como o uso da IA, para enganar ou
manipular pessoas e para explorar vulnerabilidades associadas à idade ou a
situações de deficiência, assim como veta o uso da tecnologia para
reconhecimento de emoções, em escolas e no ambiente e trabalho, e impõe
limitações estritas ao uso de dados biométricos. Doravante, as empresas de IA
que operam na UE devem seguir obrigações específicas de divulgação para
preservarem a confiança e a segurança dos utilizadores. O incumprimento dessas
normas pode resultar em sanções severas, com multas que chegam a 3% da faturação
global anual da empresa ou até 15 milhões de euros, prevalecendo o valor que
for maior. Em casos graves, que envolvem os “riscos inaceitáveis”, a multa pode
chegar a 7% da faturação anual.
O
órgão europeu fiscalizador pode solicitar documentação técnica, realizar
avaliações e inspeções diretas nos modelos de IA, exigir medidas corretivas às
empresas e impor restrições à implantação de novos modelos de IA.
A
UE exclui do seu principal regulamento civil, o AI Act, as aplicações militares
de defesa e de segurança nacional, deixando a gestão sob a alçada soberana de
cada estado-membro. Porém, o Parlamento Europeu (PE) defende diretrizes éticas
restritas, exigindo supervisão humana e apelando à proibição internacional de
sistemas de armas letais autónomas.
***
Irá
a IA, na Europa, doravante, caminhar sobre rodas?
2026.08.03
– Louro de Carvalho