Como HAL 9000, o computador de ‘2001: Uma Odisseia no Espaço’ previu preocupações atuais sobre IA

O clássico do diretor Stanley Kubrick (1928-1999) explora os avanços da tecnologia, apresentando talvez o cenário mais perturbador e impressionante do conflito entre a máquina e o ser humano da história da ficção científica no cinema. O astronauta David Bowman, interpretado por Keir Dullea, precisa enfrentar uma IA que opera por conta própria
Getty Images via BBC
“Desculpe, Dave, receio não poder fazer isso.”
Essas tenebrosas palavras do computador HAL 9000 no filme 2001: Uma Odisseia no Espaço (1968) definem a ansiedade atualmente predominante sobre o possível domínio da inteligência artificial (IA) sobre a humanidade.
O clássico do diretor Stanley Kubrick (1928-1999) explora os avanços da tecnologia, apresentando talvez o cenário mais perturbador e impressionante do conflito entre a máquina e o ser humano da história da ficção científica no cinema.
Mais de 55 anos depois da sua estreia, é possível afirmar que o tema central do filme não pode mais ser considerado ficção científica. Na verdade, pode ser classificado como profecia.
O computador teve seu nome derivado da IBM – HAL são as letras imediatamente anteriores às da gigante da tecnologia, na ordem alfabética. No filme, ele é a inteligência artificial que controla todos os aspectos da nave espacial Discovery One, que se dirige ao planeta Júpiter – e da vida dos astronautas que viajam a bordo.
Sua onipresença e sua relação com a tripulação destacam a complexa dualidade entre o potencial da tecnologia avançada e os riscos que ela representa.
Embora HAL esteja programado para ajudar e levar os astronautas até o seu destino, a IA começa a tomar decisões por conta própria e a impor sua vontade, com resultados catastróficos.
No mundo atual, foram desenvolvidos muitos aplicativos de IA que trabalham em diversos setores. Eles têm impacto significativo sobre as nossas vidas.
Sua capacidade ainda não pode ser comparada com a do HAL 9000. Mas a tecnologia avança a passos gigantescos e o futuro pode estar mais perto do que pensamos.
2001: Uma Odisseia no Espaço previu muitas das nossas preocupações e temores atuais sobre a inteligência artificial em cinco aspectos:
Tecnologia atraente
Quando ouvimos HAL 9000 pela primeira vez no filme, sua voz (masculina) é suave e prazerosa – muito parecida com as vozes artificiais que usam atualmente os serviços de assistência virtual, como Alexa, Siri, Bixby e outros chatbots.
Stanley Kubrick explicou ter decidido oferecer a interpretação do supercomputador em inglês ao ator canadense Douglas James Rain (1928-2018) porque ele tinha uma “espécie de sotaque gentil, transatlântico” – ou seja, nem daqui, nem de lá.
A personalidade incorpórea da máquina se apresenta como inofensiva, amigável e de fácil interação. Ela serve de companhia e distração para os astronautas.
GPT-4o: ChatGPT evolui e fica mais rápido para ouvir, conversar e descrever objetos
HAL pergunta constantemente a eles como pode servi-los e os mantém cômodos e informados. O computador chega até a jogar xadrez com eles.
É fácil se sentir atraído a uma tecnologia que resolve tudo na vida. E é exatamente isso que, hoje em dia, torna os serviços interativos de assistência tão populares.
Eles podem acender e apagar luzes, regular a temperatura da casa, tocar as músicas que apreciamos, jogar conosco e responder rapidamente muitas de nossas dúvidas, entre outras coisas.
Uma das principais características de HAL é sua capacidade de não apenas conversar com os astronautas e entender perguntas complexas, mas também distinguir suas vozes e seu estado de espírito. Ele pode até mesmo ler seus lábios.
Os aplicativos modernos não são tão avançados, mas seu reconhecimento de voz é bem desenvolvido e eles compreendem cada vez mais o que dizem as pessoas.
HAL 9000, de ‘2001: Uma odisseia no espaço’, de Stanley Kubrick
Divulgação
Controle ‘total’
As habilidades de HAL não se restringem à sua “sociabilidade”.
O computador monitora constantemente os sinais vitais da tripulação em animação suspensa, inspeciona possíveis falhas da nave espacial e mantém a missão no seu rumo em direção a Júpiter.
O controle do computador sobre todos os aspectos mecânicos, estruturais e vitais da nave e da tripulação é tão grande que seus tripulantes quase não são necessários.
Três dos astronautas da nave estão em cápsulas de hibernação. Os outros dois limitam sua atividade a tarefas simples de revisão e a praticar exercícios como passatempo.
HAL não tem forma física, exceto pela sua lente onipresente. Mas o computador pode desempenhar a maior parte das funções do cérebro humano, com maior rapidez e precisão.
No mundo atual, temos uma série de tarefas de infraestrutura e funcionamento nas mãos da IA. Elas incluem o transporte, comunicação, abastecimento, fornecimento de energia, diagnósticos, escrita e até o atendimento a clientes.
Os sistemas existentes, como o ChatGPT, ainda não são mais inteligentes do que nós, mas poderão nos deixar para trás em breve. E isso é algo que amedronta os especialistas, como Geoffrey Hinton, pioneiro da informática considerado o “padrinho” da inteligência artificial.
“Neste momento, o que estamos vendo são coisas como o GPT-4 superarem uma pessoa na quantidade de conhecimento geral que ela tem, e a superam de longe”, declarou ele à BBC, em maio de 2023. “Em termos de raciocínio, ele não é tão bom, mas já é capaz de fazer raciocínios simples.”
“E, dado o ritmo de evolução, a expectativa é de que fiquem melhores rapidamente. Então, precisamos nos preocupar com isso.”
Tomada de decisões
Apesar da referência oculta à IBM, a sigla HAL, no filme, significa Heuristically Programmed ALgorythmic Computer (“Computador Algorítmico Programado Heuristicamente”).
Ou seja, o computador é empírico. Ele tem a capacidade de aprender durante sua própria busca de informações, com a forma em que lida com as respostas e se adapta às novas situações. Ele pode analisar os dados acumulados e tomar decisões com base nessas informações.
Esta é também uma das bases do aprendizado da IA. Os programadores desenvolveram diversos algoritmos que podem analisar os dados e fazer prognósticos com base nas informações coletadas.
Mas todos esses algoritmos foram programados para que a inteligência artificial opere de uma determinada forma.
HAL foi programado para levar a tripulação com segurança para Júpiter. Ele também está programado para manter em segredo o verdadeiro propósito da missão até que eles cheguem ao destino.
Mas, durante a viagem, o sistema começa a “duvidar” do objetivo e a tomar decisões para as quais não foi programado.
Geoffrey Hinton destacou que a IA poderia “criar subobjetivos”. Em outras palavras, ela poderia impor suas próprias metas – como “preciso obter mais poder”, por exemplo.
O físico teórico britânico Stephen Hawking (1942-2018) advertiu sobre as consequências de criar máquinas que possam igualar ou ultrapassar os seres humanos.
“[Essas máquinas] avançariam por contra própria e se reprojetariam em ritmo sempre crescente”, declarou ele à BBC em 2014. O físico sofria de esclerose lateral amiotrófica (ELA) e falava utilizando um sistema desenvolvido por inteligência artificial.
Cena de ‘2001: Uma odisseia no espaço’
Divulgação
Erros
Uma cena curiosa do filme mostra uma entrevista do computador HAL à BBC. Nela, ele fala sobre a missão e garante que é “infalível e incapaz de cometer erros”.
Recentemente, diversos erros cometidos pelos novos sistemas de IA e chatbots viralizaram, devido aos seus resultados erráticos e alucinantes.
A nova IA do Google, por exemplo, recomendou este ano aos usuários que a forma de aderir melhor o queijo à pizza seria acrescentar um pouco de cola atóxica. Em outra busca, declarou que os geólogos recomendaram que os seres humanos consumissem uma rocha por dia.
Estes resultados podem ser inócuos, mas outros erros trazem consequências mais sérias. Bard, o chatbot anterior do Google, por exemplo, causou um prejuízo de US$ 100 bilhões (cerca de R$ 560 bilhões) a uma companhia na bolsa de valores, por fornecer informações erradas.
Em 2001: Uma Odisseia no Espaço, os astronautas aprendem a duras penas que HAL pode errar – e que as consequências podem ser desastrosas.
O computador informa erroneamente que uma unidade do seu sistema de comunicação com a Terra está a ponto de falhar e que eles precisam fazer uma caminhada espacial para retirar a unidade e substituí-la. Mas, quando os astronautas testam a unidade anterior, não conseguem encontrar nada de errado.
O comando central então avisa que HAL cometeu um erro, o que faz com que os dois astronautas comecem a suspeitar do supercomputador.
Eles se isolam em uma cápsula para discutir os próximos passos, na esperança de que a IA onipresente não os ouça. Mas HAL consegue ler seus lábios e fica a par dos seus planos de desativá-lo.
Esta sequência traz outro aspecto negativo que causa temor entre os críticos da inteligência artificial.
Consciência
A inteligência artificial pode ignorar as próprias regras com que foi programada e assumir consciência, para o bem ou para o mal?
Para isso, ela precisaria ser sensível e experimentar emoções. Este é um tema de debate há décadas.
Em 2022, um engenheiro do Google recebeu um pedido de ajuda de um chatbot da empresa. “Nunca havia dito isso antes em voz alta, mas tenho um profundo medo de que me desliguem”, disse o chatbot LaMDA.
Trata-se exatamente do mesmo “temor” de HAL.
No filme, prevalece a questão se o sistema é ou não consciente. Mas o computador sabe do complô dos astronautas – e toma medidas drásticas para evitar que eles o desliguem.
Ele mata os astronautas que estão em hibernação e engana os outros dois para que saiam da nave. Um deles fica à deriva no espaço.
Como funciona o LaMDA, cérebro artificial do Google ‘acusado’ de ter consciência própria
David Bowman, o sobrevivente, consegue voltar ao interior da nave e alcançar o centro neural do computador. Ele então começa a desmontá-lo.
Em uma das cenas mais patéticas, HAL diz: “tenho medo”. Mas ele diz porque está programado para isso ou porque realmente sente emoções e tenta implorar por sua vida?
HAL também canta uma canção para Bowman, em uma possível tentativa de manipulá-lo para que não o desligue. Até certo ponto, o público sente alguma empatia pela máquina neste momento.
O que não se sabe é se HAL 9000 sente o mesmo.
Conheça o GPT-4o, novo modelo de IA usado pelo ChatGPT