O historiador israelita Yuval
Noah Harari, esteve em Lisboa, a 19 de maio, na conferência intitulada “Humanidade, não é assim tão simples”, organizada pela
Fundação Francisco Manuel dos Santos (FFMS), a que assistiram cerca de 500
pessoas, na Estufa-Fria.
O renomado conferencista é investigador e professor de História do Mundo e de
Processos da Macro-História na Universidade Hebraica de Jerusalém. Em 2012, foi
eleito para a Academia Jovem Israelita de Ciências. Tornou-se conhecido pelos
livros Sapiens – História Breve da Humanidade (2011), Homo Deus: História Breve do Amanhã (2017)
e 21 Lições para o Século XXI (2021),
entre outros. E,
na edição de 2020 da conferência anual do Fórum Económico Mundial de Davos, discorreu sobre o futuro da inteligência artificial e sobre a
corrida tecnológica entre China e os Estados Unidos da América (EUA).
Por ocasião da sua passagem por
Lisboa, em que afirmou que “a inteligência
artificial é uma bomba atómica política”, concedeu uma entrevista exclusiva ao Expresso
e à SIC, vincando a ideia da necessidade de parar e de “pensar em formas
de regulação”, “sob pena de
vivermos uma distopia pior do que a descrita no livro 1984, de George Orwell”, visto que, “pela primeira vez, na História,
é possível criar um regime de vigilância total”, nefasto para a democracia e
para o ser humano. Com efeito, “nunca o desenvolvimento de uma tecnologia foi
capaz de causar uma revolução tão radical e acelerada, a ponto de ameaçar a
democracia e a própria mente humana”, avisa o proeminente pensador da
atualidade, na referida entrevista, de que se destacam algumas ideias sobre a inteligência artificial (IA).
A IA é “a
primeira ferramenta capaz de tomar decisões”. Por exemplo, a tipografia não decide
o livro a publicar, nem a rádio ou a televisão decide o discurso político a
difundir. É a pessoa humana quem decide. Ao invés das outras invenções, a IA, pela capacidade de tomar decisões,
retira poder ao ser humano, o que já sucede no concurso a emprego ou na candidatura
a empréstimo: “É cada vez mais o algoritmo que analisa a candidatura e decide
se somos aceites ou não.” O homem
faz a programação inicial, criam um “algoritmo bebé” e dá-lhe a possibilidade
de interagir com o mundo e de aprender coisas que ninguém lhe ensinou, enquanto
a simples máquina automática se limita a responder a um estímulo (por exemplo,
carregar num botão), não aprendendo nada de novo.
Ora, a IA é a primeira tecnologia com a capacidade de criar novas ideias.
Assim, hoje, há algumas (poucas)
pessoas que percebem o funcionamento das bitcoins, mas, daqui a anos, pode a IA
criar uma nova bitcoin que ninguém conseguirá perceber. E, se não conseguirmos
compreender o dinheiro, teremos a relação social em perigo e, obviamente, a
democracia.
A democracia assenta no debate de ideias, de opiniões e de propostas, que
tem ocorrido apenas entre humanos. Aqui, além do aspeto intelectual, joga a
intimidade para criar emoção e levar as pessoas à mudança de opinião. Na
verdade, a intimidade é a arma mais poderosa para convencer as pessoas. Ora, se
a IA simular que é um humano e contruir um programa capaz de conquistar a
confiança de outrem para o influenciar, com objetivos políticos, acontece a subversão
do projeto humano de sociedade.
Por conseguinte, o maior perigo para os sistemas sociais
e políticos é a manipulação. A IA controla
o tráfego nas redes sociais, destaca mais as teorias da conspiração inventadas
por alguém e pode criar uma teoria da conspiração e adaptá-la à psicologia ou à
história pessoal de cada indivíduo. O funcionamento da democracia postula a confiança
das pessoas umas nas outras, o que, por sua vez, exige o debate. Ora, como o
debate está a acabar um pouco por todo o Mundo (confia-se na máquina, nas
tecnologias: não se pensa), a IA pode funcionar como “uma bomba atómica
política”. Paradoxalmente, “temos a tecnologia de informação mais poderosa da
História”, mas os americanos não concordam sobre “quem ganhou as últimas
eleições” e muita gente ainda não aceita a rotundidade da Terra “ou que as
vacinas nos protegem”.
Face a esta problemática, o entrevistado propõe: “Devemos parar a
implantação da IA na esfera pública, até que seja averiguada a sua segurança. É
uma questão de bom senso. Se uma farmacêutica desenvolver um novo fármaco, não
pode comercializá-lo sem passar por um processo de investigação dos seus
efeitos.”
É necessária uma regulamentação da IA. Para já, pode
não ser a nível mundial, podendo começar, por exemplo, por “uma regulamentação na União Europeia”. “É urgente
proibir a ‘contrafação” de humanos, mas pode desenvolver-se a IA “para
interagir com humanos, desde que se identifique como tal”. Tem de se proibir
que um bot finja que é um humano. Pensamos
que, nas redes sociais, uma história gerou muito tráfego, porque as pessoas
estão muito interessadas nela, mas o que sucede é que “há imensos bots que estão a ‘alavancar’ essa
história”. Ora, diz Yuval Noah Harari,
“se banirmos todos os bots das redes
sociais, já teremos feito um bom caminho”.
As pessoas disseminam fake news,
mas o pior sucede com o uso dos bots.
Nas redes sociais, os algoritmos avaliam os conteúdos pelo seu engagement (volume de visualizações, de gostos
e de partilhas]. Se gerarem mais engagement,
os algoritmos dão-lhes mais destaque. O algoritmo destaca mais a teoria da
conspiração, porque cria mais engagement,
pela via da instabilidade e pelo medo. Ora, segundo o historiador, “isso devia
ser proibido, porque destrói os alicerces da democracia”. E mais ainda: “As
teorias da conspiração e as fake news
são junk food para o cérebro, o que é
ainda mais perigoso: não destroem apenas a mente de cada um, mas toda a
sociedade. No mínimo, devia haver um aviso: ‘Este vídeo contém 40% de raiva,
20% de medo, 20% de ganância’, por exemplo. […] As pessoas saberiam com o que é
que estão a alimentar a sua mente.”
A computação e o controlo biométrico dão às empresas
e aos governos o poder de escrutinar em permanência a vida de todos. Isso “é pior do que a distopia de Orwell, porque Orwell não
imaginou um cenário em que a vigilância estivesse mesmo dentro da nossa pele e
da nossa mente”.
O sonho dos regimes autoritários é conseguir vigiar toda a gente, o tempo
todo. Antigamente, havia muitos espiões, mas por mais agentes que houvesse, não
havia meios para analisar toda a informação; agora, há smartphones,
computadores e câmaras em todo o lado. E já não são precisos analistas humanos,
porque a IA analisa toda a informação. Assim, “é possível aniquilar por
completo a privacidade e criar um regime de vigilância total, em que toda a
gente pode ser espiada em permanência”. A China já o faz e Israel “está a montar
um sistema para controlar os Palestinianos”.
Muitas pessoas alegam que não têm nada a esconder e não veem que isso as
expõe à manipulação política. E, num futuro próximo, como toda a nossa vida estará
numa entrevista de emprego, o empregador não precisará de pedir um currículo,
pois tem acesso a toda a informação. Todavia, os governos ainda têm poder de regulamentação
e devem proteger a privacidade. Com efeito, por exemplo, se um médico não pode
vender informação sobre a saúde do paciente, não se entende como a Google, o Facebook ou o TikTok
podem vender informação privada.
Desaparecerão muitos empregos e surgirão outros, que também se
transformarão e desaparecerão. As pessoas voltarão a estudar, para reconverter
competências e se prepararem para exercer novas profissões ao longo da vida. O
grande problema será psicológico, porque não estamos preparados para a mudança
permanente. Alguns países terão capacidade para reconverter os recursos humanos
e dar apoio psicológico às pessoas. Outros ficarão para trás.
Os menos instruídos não serão, necessariamente, as
principais vítimas, pois “o trabalho
manual complexo é muito mais difícil de automatizar”. Será mais fácil de automatizar
o trabalho, por exemplo, dos médicos que fazem diagnósticos e prescrevem
receitas, do que o de enfermeiros que têm de trocar um penso. Não se prevê
quais são as profissões em maior risco.
No contexto de mudança permanente e não se
sabendo que profissões persistirão, “a competência
mais importante é como continuar a aprender ao longo de toda a vida e ter uma
mente flexível”. Nestes termos, “as escolas não têm de dar [muita] informação
às crianças, porque elas estão inundadas em informação”, mas têm de as ensinar
a distinguir fontes de informação credíveis das não credíveis.
Interpelado sobre que resposta dará à pergunta formulada quando terminou o
livro Homo Deus: História Breve
do Amanhã” “O que acontecerá quando os algoritmos nos conhecerem melhor do que nós
próprios?”, o historiador do manhã respondeu: “Quando isso acontecer, poderão controlar-nos completamente, conseguirão
moldar as nossas posições políticas e as nossas perspetivas sobre nós mesmos.” E, nesse contexto, “as pessoas que
acreditam que as suas decisões resultam apenas do livre arbítrio são as mais
fáceis de manipular”.
Na verdade, quando tomamos uma decisão, há fatores biológicos e
psicológicos de que não temos consciência e que a moldam. Por isso, ao decidirmos,
devemos questionar-nos sobre o porquê, o como e objetivo dessa opção.
***
Não obstante os inconvenientes apontados, uma IA devidamente regulamentada terá
vantagens para os cidadãos, para as empresas, para os serviços públicos, para o
funcionamento das instituições democráticas, para a Justiça e para as
estratégias de defesa.
A IA proporciona aos cidadãos melhores cuidados de saúde, automóveis
e outros sistemas de transporte mais seguros, acesso a produtos e a serviços
personalizados, mais baratos e duradouros. Facilita o acesso à informação, à
educação e à formação e torna o local de trabalho mais seguro, tendo em conta
que os robôs, usados para as tarefas de maior risco, podem contribuir para a
criação de novos postos de trabalho, à medida que as indústrias da área da IA
crescem e evoluem.
No caso das empresas, a IA permite o desenvolvimento de uma nova
geração de produtos e serviços, incluindo os setores onde as empresas europeias
já detêm posições fortes: economia verde e
circular, maquinaria, agricultura, saúde, moda e turismo. Permite modos de
venda mais harmoniosos e otimizados, melhora a manutenção de máquinas, aumenta
os resultados da produção e a qualidade, melhora o atendimento ao cliente e
economiza energia.
Usada em serviços públicos, reduz os custos e o tempo; oferece
novas possibilidades para os transportes
públicos, para a educação e para a gestão de energia e resíduos; e melhora a
sustentabilidade dos produtos.
O escrutínio baseado em dados, a
prevenção da desinformação e dos ciberataques e a garantia do acesso a
informação de qualidade reforçam a democracia.
Também é viável a IA apoiar a diversidade e a abertura, por exemplo, ao atenuar
a possibilidade de existência de preconceitos nas decisões quanto a
contratações e ao usar dados analíticos, em contrapartida.
Prevê-se que a IA seja mais
utilizada na prevenção da criminalidade
e no sistema de justiça penal, já que será possível processar um maior número de
dados de um modo mais rápido, os riscos de fuga dos prisioneiros poderão ser
avaliados com maior precisão e os crimes ou os ataques terroristas poderão ser
previstos e evitados. A IA já é utilizada por plataformas online para detetar e
reagir a comportamentos ilegais e inadequados na Internet.
Nos assuntos
militares, a IA pode ser usada para estratégias de defesa e
ataque, com piratagem e phishing ou
para atingir sistemas-chave da ciberguerra.
***
Enfim, as pessoas podem ser muito más
e fazer muito mal, mas prescindir delas como pessoas constituirá um mal muito
maior. Sociedade comandada exclusivamente pela máquina deixa de ter emoção, que
é fundamental no ser humano. Precisa-se da IA, mas a IA não pode ser tudo.
2023.05.27 – Louro de Carvalho
Sem comentários:
Enviar um comentário