Ironheart promove os besties da IA ​​e eu acho que é meio perigoso

(Ed. observação: Esta revisão contém spoilers menores para os três primeiros episódios de Ironheart Temporada 1)

IronheartSpin -off da Marvel de Pantera Negra: Wakanda para sempretem mais em comum com Isaac Asimov’s Os andróides sonham com ovelhas elétricas? do que qualquer fã do MCU pode adivinhar. A pergunta existencial em questão: Uma máquina pode realmente sentir ou ser humana?

Na série Disney Plus, a jovem herói do tipo Tony Star, Riri Williams, ressuscita sua melhor amiga Natalie através da inteligência artificial. As implicações ficam com o cérebro de galáxia completo bem rápido. Natalie pode falar, lembrar -se, projetar uma forma holográfica realista e se envolver com pessoas como uma verdadeira humana – mas ela não está “viva” no sentido tradicional.

Embora a idéia de um companheiro artificial tenha sido um item básico de ficção científica, seu colega do mundo real agora vem com intensa controvérsia. As formas mais recentes de chatbots generativas de IA estão prontas para aumentar as indústrias, eliminar empregos e espalhar informações erradas. Hollywood respondeu desajeitadamente. Filmes como 2023’s O criador e o filme de ação da Netflix de Jennifer Lopez Atlas refletir uma tendência crescente de narrativas pró-AI de estúdios com grandes investimentos na tecnologia e um interesse adquirido em sua aceitação.

Ironheart é outra facada para melhorar a imagem da tecnologia. O que me incomoda não é que os espectadores possam assistir o show da Marvel e retirar para seus computadores para formar um vínculo com uma réplica humana de chatgpt, é que as pessoas já estão fazendo isso por seus entes queridos falecidos. Ironheartque se imagina que a Disney projetou para público e apelo em massa, não luta com esse presente.

Alguns anos antes dos eventos do show, Riri testemunhou um atirador que mata seu pai e melhor amigo. Riri, ainda processando essas mortes, está implementando uma interface de IA em seu traje quando, depois que ela adormece durante o processo, a contraparte digital de Natalie nasce através de uma falha cibernética enquanto a protagonista está sonhando com seu melhor amigo falecido. No começo, ela está assustada e apreensiva por um computador assumindo a forma de Natalie. Mas com o passar do tempo, a AI Natalie se torna um mecanismo de enfrentamento para Riri chegar a um acordo com os assassinatos, um evento que a levou a criar seu primeiro traje como um meio de proteção. Embora Riri esteja dolorosamente ciente de que a Natalie que ela está de luto está morta e que está na presença de seu colega de IA, ainda é um mecanismo que ajuda Riri a lidar com sua morte e eventualmente se curar.

Nada disso parece fora do reino da possibilidade. Chicago Drive-Bys acontecerá com muita frequência Na vida real, e o chatgpt é tão fácil de usar quanto as mensagens de texto. Mas é um caminho sombrio para a Marvel disneyificar casualmente. Já existem casos de pessoas mensagens de texto chatgpt como se fossem amigosAssim, Relatórios de adolescentes e adultos que sofrem delírios e chegando ao Chatgpt para respostas ou orientações.

Virado arrependimento crescente De aqueles que se voltaram para a IA para o fechamento, o Openai teve que admitir as falácias de sua própria criação. No início deste ano, em um email para A estrelaa empresa disse que reconhece que “o ChatGPT pode parecer mais receptivo e pessoal do que as tecnologias anteriores, especialmente para indivíduos vulneráveis ​​(…) estamos trabalhando para entender e reduzir como o ChatGPT pode reforçar ou ampliar involuntariamente o comportamento existente e negativo”.

A IA generativa certamente tem um lugar na sociedade, particularmente quando é usado para reduzir o trabalho servil, ajudar em vez de substituir ou até apoiar a busca pela justiça. Em um caso inovador relatado por saída local ABC 15uma família do Arizona usou uma versão gerada pela IA de seu ente querido falecido para entregar sua própria declaração de impacto da vítima no tribunal. Chris Pelkey, um veterano do exército de 37 anos e ávido pescador, foi morto em um suspeito incidente de raiva na estrada em 13 de novembro de 2021. Relatórios Rolling Stone Isso marca a primeira instância conhecida de IA usada para entregar uma declaração de impacto da vítima em um tribunal dos EUA. Por fim, Riri pretende usar seu traje para servir a justiça, e se a IA é uma ferramenta que torna o trabalho mais fácil e eficiente, é difícil argumentar sua utilidade. Mas não é uma faca do exército suíço que pode consertar a condição humana.

Mais tarde IronheartA mãe de Riri conhece Natalie e, ao saber que ela é uma IA, a envolve em conversa, surpresa com a precisão de Riri, capaz de “capturar seu espírito”. Achei difícil suspender a descrença de que uma mãe em luto aceitasse e interageria tão prontamente com uma réplica digital. Mas como este é o MCU, é o tipo de salto fácil de ignorar. Naquela mesma noite, a mãe de Riri pergunta se ela poderia criar uma versão de IA de seu falecido marido. Riri responde que não pode, ela não sabe como, mas admite que, se pudesse, o faria.

Riri, a mente científica por trás da IA, entende seus limites e riscos potenciais, enquanto sua mãe, sem esse conhecimento, é emocionalmente vulnerável ao que parece real. Mas mesmo um dos personagens mais inteligentes do atual universo cinematográfico da Marvel acaba caindo no fascínio de ter seu melhor amigo de volta, apesar de saber melhor.

Isso não é um comportamento de herói; É um sinal de alguém que está sofrendo. Algo que uma conversa, relatabilidade ou lógica não pode curar. Mas se fosse uma muleta para alguém tão brilhante quanto Riri se inclinar, o que está impedindo que alguém acredite que a IA não poderia fazer o mesmo por eles?