Um novo relatório sobre um “hackeado”Namorada IA”site afirma que muitos usuários estão tentando (e possivelmente conseguindo) usar o bot de bate-papo para simular abusos sexuais horríveis de crianças.
Em 8 de outubro, 404 Mídia relataram que o site de chatbot Muah.ai – que permite aos usuários criar seus próprios chatbots “sem censura” com foco em sexo, alimentados por IA – foi hackeado e uma grande quantidade de dados de usuários foi roubada. Esses dados revelam, entre outras coisas, como os usuários do Muah interagiram com os chatbots. 404 Mídiaviu os dados roubados e escreveu que, em muitos casos, os usuários estavam supostamente tentando criar chatbots que pudessem representar crianças.
“Fui ao site para me masturbar (para um cenário *adulto*, para ser claro) e percebi que (Muah.ai) parecia muito mal montado”, explicou o hacker ao 404 Mídia. “É basicamente um punhado de projetos de código aberto colados com fita adesiva. Comecei a fuçar e encontrei algumas vulnerabilidades com relativa rapidez. No início era só curiosidade mas resolvi entrar em contato (404 Mídia) assim que vi o que estava no banco de dados.”
De acordo com 404 Mídiaalguns dos dados hackeados contêm avisos e mensagens explícitas sobre o abuso sexual de crianças pequenas. O canal informa que viu um aviso que pedia uma orgia com “bebês recém-nascidos” e “crianças pequenas”. 404 Mídia e o hacker não conseguiu confirmar se Muah.ai realmente gerou o que os usuários estavam tentando obter, mas é uma visão sombria do que muitas pessoas estão tentando usar ferramentas controversas de geração de IA para criar.
404 Mídia diz que o administrador do Muah.ai, conhecido como Harvard Han, detectou o hack na semana passada. A pessoa que administra o site do chatbot de IA também afirmou que o hack foi “financiado” por concorrentes do chatbot na “indústria de IA sem censura”. 404 Mídia pediu evidências dessa afirmação e não recebeu nenhuma. O hacker disse ao canal que não trabalha na indústria de IA.
“Temos uma equipe de moderação que suspende e exclui TODOS os chatbots relacionados a crianças em nossa galeria de cartões, Discord, Reddit, etc”, disse Han. A galeria de cartões é a lista de chatbots de IA criados pela comunidade disponíveis no site.
Como apontado por 404 MídiaMuah.ai afirma ser uma plataforma de chatbot de IA “sem censura”, permitindo a criação de conversas e fotos explícitas. No entanto, também afirma proibir todo conteúdo menor de idade, de acordo com seu site. Quando duas pessoas postaram sobre um personagem de IA supostamente menor de idade no servidor Discord do site, 404 Mídia afirma que um moderador pede aos usuários que não “postem essa merda” aqui, mas que façam “DM uns para os outros ou algo assim”.
É mais um exemplo de como Ferramentas de geração de IA e os chatbots estão se tornando mais fáceis de desenvolver e compartilhar on-line, enquanto leis e regulamentos em torno dessas novas peças de tecnologia estão muito atrasados. É um combinação desagradável e um que provavelmente só piorará à medida que as ferramentas de geração de IA se tornam mais fáceis, baratas e rápidas.
.
