Microsoft avisa que a IA do Windows 11 pode instalar malware

O esforço da Microsoft para tornar o Windows 11 um sistema operacional de PC totalmente AI continua, com a empresa planejando lançar novos agentes de IA que podem concluir tarefas e fazer alterações em seu nome. Mas a empresa não ativa o recurso de IA por padrão porque existe o risco de baixar e instalar malware. Ops!

Como avistado por Central do Windows, A Microsoft publicou recentemente um longo aviso sobre os agentes de IA que serão adicionados em breve ao Windows 11. Na postagem, a Microsoft explica que os agentes terão suas próprias contas em seu PC com Windows 11. Eles também terão “acesso limitado ao diretório do seu perfil de usuário” e, se necessário, terão acesso de leitura e gravação a determinadas pastas, incluindo Documentos, Downloads e Área de Trabalho. E embora a Microsoft afirme que todas as decisões de IA devem ser aprovadas por um ser humano e que todas as ações serão registadas e reportadas, a gigante tecnológica reconhece que ativar estes agentes pode ser uma má ideia.

No aviso, A Microsoft diz diretamente que seus agentes de IA introduzem “novos riscos de segurança”, como, ah, não sei, ser capaz de enviar seus dados sem você perceber, ser enganado por comandos online ou até mesmo instalar software prejudicial. Aqui está o aviso completo:

À medida que estas capacidades são introduzidas, os modelos de IA ainda enfrentam limitações funcionais em termos de como se comportam e, ocasionalmente, podem ter alucinações e produzir resultados inesperados. Além disso, os aplicativos de IA de agente apresentam novos riscos de segurança, como a injeção de prompt cruzado (XPIA), em que conteúdo malicioso incorporado em elementos de UI ou documentos pode substituir as instruções do agente, levando a ações não intencionais, como exfiltração de dados ou instalação de malware.

Isso parece muito ruim para mim, uma pessoa que gosta de manter malware longe do meu PC. E a Microsoft concorda, pois quando esses agentes forem adicionados em uma atualização futura, eles precisarão ser ativados manualmente pelo usuário. Portanto, pelo menos, se você estiver executando o Windows 11, não precisará se preocupar com a possibilidade de agentes de IA instalarem algum malware em seu PC enquanto você está fazendo um lanche. Por agora. A Microsoft está pressionando fortemente a IA em todos os seus produtos, incluindo o Xbox, e eu não ficaria surpreso se um dia esses agentes de IA no Windows 11 fossem ativados por padrão. De qualquer forma, lembre-se de como o Xbox está provocando que seu próximo console será basicamente ser um PC com Windows? Coisas legais. Estou tão feliz com isso.