tecnologias e games

Uma vez que HAL 9000, o computador de '2001: Uma Odisseia no Espaço' previu preocupações atuais sobre IA

O clássico do diretor Stanley Kubrick (1928-1999) explora os avanços da tecnologia, apresentando talvez o cenário mais perturbador e impressionante do conflito entre a máquina e o ser humano da história da ficção científica no cinema. O astronauta David Bowman, interpretado por Keir Dullea, precisa enfrentar uma IA que opera por conta própria
Getty Images via BBC
“Desculpe, Dave, receio não poder fazer isso.”
Essas tenebrosas palavras do computador HAL 9000 no filme 2001: Uma Odisseia no Espaço (1968) definem a sofreguidão atualmente preponderante sobre o verosímil domínio da perceptibilidade sintético (IA) sobre a humanidade.
O clássico do diretor Stanley Kubrick (1928-1999) explora os avanços da tecnologia, apresentando talvez o cenário mais perturbador e impressionante do conflito entre a máquina e o ser humano da história da ficção científica no cinema.
Mais de 55 anos depois da sua estreia, é verosímil declarar que o tema médio do filme não pode mais ser considerado ficção científica. Na verdade, pode ser classificado uma vez que profecia.
O computador teve seu nome derivado da IBM – HAL são as letras imediatamente anteriores às da gigante da tecnologia, na ordem alfabética. No filme, ele é a perceptibilidade sintético que controla todos os aspectos da nave espacial Discovery One, que se dirige ao planeta Júpiter – e da vida dos astronautas que viajam a bordo.
Sua onipresença e sua relação com a tripulação destacam a complexa dualidade entre o potencial da tecnologia avançada e os riscos que ela representa.
Embora HAL esteja programado para ajudar e levar os astronautas até o seu tramontana, a IA começa a tomar decisões por conta própria e a impor sua vontade, com resultados catastróficos.
No mundo atual, foram desenvolvidos muitos aplicativos de IA que trabalham em diversos setores. Eles têm impacto significativo sobre as nossas vidas.
Sua capacidade ainda não pode ser comparada com a do HAL 9000. Mas a tecnologia avança a passos gigantescos e o horizonte pode estar mais perto do que pensamos.
2001: Uma Odisseia no Espaço previu muitas das nossas preocupações e temores atuais sobre a perceptibilidade sintético em cinco aspectos:
Tecnologia sedutor
Quando ouvimos HAL 9000 pela primeira vez no filme, sua voz (masculina) é suave e prazerosa – muito parecida com as vozes artificiais que usam atualmente os serviços de assistência virtual, uma vez que Alexa, Siri, Bixby e outros chatbots.
Stanley Kubrick explicou ter disposto oferecer a tradução do supercomputador em inglês ao ator canadense Douglas James Rain (1928-2018) porque ele tinha uma “espécie de sotaque gentil, transatlântico” – ou seja, nem daqui, nem de lá.
A personalidade incorpórea da máquina se apresenta uma vez que inofensiva, amigável e de fácil interação. Ela serve de companhia e distração para os astronautas.
GPT-4o: ChatGPT evolui e fica mais rápido para ouvir, conversar e descrever objetos
HAL pergunta continuamente a eles uma vez que pode servi-los e os mantém cômodos e informados. O computador chega até a jogar xadrez com eles.
É fácil se sentir atraído a uma tecnologia que resolve tudo na vida. E é exatamente isso que, hoje em dia, torna os serviços interativos de assistência tão populares.
Eles podem atear e extinguir luzes, regular a temperatura da lar, tocar as músicas que apreciamos, jogar conosco e responder rapidamente muitas de nossas dúvidas, entre outras coisas.
Uma das principais características de HAL é sua capacidade de não somente conversar com os astronautas e entender perguntas complexas, mas também honrar suas vozes e seu estado de espírito. Ele pode até mesmo ler seus lábios.
Os aplicativos modernos não são tão avançados, mas seu reconhecimento de voz é muito desenvolvido e eles compreendem cada vez mais o que dizem as pessoas.
HAL 9000, de ‘2001: Uma odisseia no espaço’, de Stanley Kubrick
Divulgação
Controle ‘totalidade’
As habilidades de HAL não se restringem à sua “sociabilidade”.
O computador monitora continuamente os sinais vitais da tripulação em animação suspensa, inspeciona possíveis falhas da nave espacial e mantém a missão no seu rumo em direção a Júpiter.
O controle do computador sobre todos os aspectos mecânicos, estruturais e vitais da nave e da tripulação é tão grande que seus tripulantes quase não são necessários.
Três dos astronautas da nave estão em cápsulas de hibernação. Os outros dois limitam sua atividade a tarefas simples de revisão e a praticar exercícios uma vez que passatempo.
HAL não tem forma física, exceto pela sua lente onipresente. Mas o computador pode desempenhar a maior secção das funções do cérebro humano, com maior rapidez e precisão.
No mundo atual, temos uma série de tarefas de infraestrutura e funcionamento nas mãos da IA. Elas incluem o transporte, notícia, provisão, fornecimento de virilidade, diagnósticos, escrita e até o atendimento a clientes.
Os sistemas existentes, uma vez que o ChatGPT, ainda não são mais inteligentes do que nós, mas poderão nos deixar para trás em breve. E isso é alguma coisa que amedronta os especialistas, uma vez que Geoffrey Hinton, pioneiro da informática considerado o “paraninfo” da perceptibilidade sintético.
“Neste momento, o que estamos vendo são coisas uma vez que o GPT-4 superarem uma pessoa na quantidade de conhecimento universal que ela tem, e a superam de longe”, declarou ele à BBC, em maio de 2023. “Em termos de raciocínio, ele não é tão bom, mas já é capaz de fazer raciocínios simples.”
“E, oferecido o ritmo de evolução, a expectativa é de que fiquem melhores rapidamente. Portanto, precisamos nos preocupar com isso.”
Tomada de decisões
Apesar da referência oculta à IBM, a {sigla} HAL, no filme, significa Heuristically Programmed ALgorythmic Computer (“Computador Algorítmico Programado Heuristicamente”).
Ou seja, o computador é empírico. Ele tem a capacidade de aprender durante sua própria procura de informações, com a forma em que lida com as respostas e se adapta às novas situações. Ele pode explorar os dados acumulados e tomar decisões com base nessas informações.
Esta é também uma das bases do aprendizagem da IA. Os programadores desenvolveram diversos algoritmos que podem explorar os dados e fazer prognósticos com base nas informações coletadas.
Mas todos esses algoritmos foram programados para que a perceptibilidade sintético opere de uma determinada forma.
HAL foi programado para levar a tripulação com segurança para Júpiter. Ele também está programado para manter em sigilo o verdadeiro propósito da missão até que eles cheguem ao tramontana.
Mas, durante a viagem, o sistema começa a “duvidar” do objetivo e a tomar decisões para as quais não foi programado.
Geoffrey Hinton destacou que a IA poderia “fabricar subobjetivos”. Em outras palavras, ela poderia impor suas próprias metas – uma vez que “preciso obter mais poder”, por exemplo.
O físico teórico britânico Stephen Hawking (1942-2018) advertiu sobre as consequências de fabricar máquinas que possam igualar ou ultrapassar os seres humanos.
“[Essas máquinas] avançariam por contra própria e se reprojetariam em ritmo sempre crescente”, declarou ele à BBC em 2014. O físico sofria de esclerose lateral amiotrófica (ELA) e falava utilizando um sistema desenvolvido por perceptibilidade sintético.
Cena de ‘2001: Uma odisseia no espaço’
Divulgação
Erros
Uma cena curiosa do filme mostra uma entrevista do computador HAL à BBC. Nela, ele fala sobre a missão e garante que é “infalível e incapaz de cometer erros”.
Recentemente, diversos erros cometidos pelos novos sistemas de IA e chatbots viralizaram, devido aos seus resultados erráticos e alucinantes.
A novidade IA do Google, por exemplo, recomendou levante ano aos usuários que a forma de aderir melhor o queijo à pizza seria avultar um pouco de cola atóxica. Em outra procura, declarou que os geólogos recomendaram que os seres humanos consumissem uma rocha por dia.
Estes resultados podem ser inócuos, mas outros erros trazem consequências mais sérias. Bard, o chatbot anterior do Google, por exemplo, causou um prejuízo de US$ 100 bilhões (tapume de R$ 560 bilhões) a uma companhia na bolsa de valores, por fornecer informações erradas.
Em 2001: Uma Odisseia no Espaço, os astronautas aprendem a duras penas que HAL pode errar – e que as consequências podem ser desastrosas.
O computador informa erroneamente que uma unidade do seu sistema de notícia com a Terreno está a ponto de falhar e que eles precisam fazer uma passeio espacial para retirar a unidade e substituí-la. Mas, quando os astronautas testam a unidade anterior, não conseguem encontrar zero de inverídico.
O comando médio logo avisa que HAL cometeu um erro, o que faz com que os dois astronautas comecem a suspeitar do supercomputador.
Eles se isolam em uma invólucro para discutir os próximos passos, na esperança de que a IA onipresente não os ouça. Mas HAL consegue ler seus lábios e fica a par dos seus planos de desativá-lo.
Esta sequência traz outro paisagem negativo que pretexto temor entre os críticos da perceptibilidade sintético.
Consciência
A perceptibilidade sintético pode ignorar as próprias regras com que foi programada e assumir consciência, para o muito ou para o mal?
Para isso, ela precisaria ser sensível e testar emoções. Levante é um tema de debate há décadas.
Em 2022, um engenheiro do Google recebeu um pedido de ajuda de um chatbot da empresa. “Nunca havia dito isso antes em voz subida, mas tenho um profundo terror de que me desliguem”, disse o chatbot LaMDA.
Trata-se exatamente do mesmo “temor” de HAL.
No filme, prevalece a questão se o sistema é ou não consciente. Mas o computador sabe do complô dos astronautas – e toma medidas drásticas para evitar que eles o desliguem.
Ele mata os astronautas que estão em hibernação e engana os outros dois para que saiam da nave. Um deles fica à deriva no espaço.
Uma vez que funciona o LaMDA, cérebro sintético do Google ‘réu’ de ter consciência própria
David Bowman, o sobrevivente, consegue voltar ao interno da nave e conseguir o núcleo neural do computador. Ele logo começa a desmontá-lo.
Em uma das cenas mais patéticas, HAL diz: “tenho terror”. Mas ele diz porque está programado para isso ou porque realmente sente emoções e tenta obsecrar por sua vida?
HAL também canta uma música para Bowman, em uma verosímil tentativa de manipulá-lo para que não o desligue. Até perceptível ponto, o público sente alguma empatia pela máquina neste momento.
O que não se sabe é se HAL 9000 sente o mesmo.
Conheça o GPT-4o, novo padrão de IA usado pelo ChatGPT

Fonte da Materia

Deixe um comentário

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *