Star Metro - UE anuncia acordo para proibir IA que cria imagens sexuais falsas

A iniciativa surgiu após a introdução, há alguns meses, de uma funcionalidade no Grok, o assistente de IA da xAI, empresa fundada por Elon Musk, que permite aos usuários solicitar a criação de imagens hiper-realistas (ou deepfakes) de adultos e crianças nus a partir de fotos reais, sem o consentimento das pessoas retratadas.

O recurso provocou um escândalo em vários países e resultou na abertura de uma investigação na UE.

A primeira-ministra italiana, Giorgia Meloni, denunciou a divulgação de fotos falsas com a sua imagem geradas por IA e classificou o recurso como uma "ferramenta perigosa".

Segundo o Parlamento Europeu, a nova proibição visa os sistemas que permitem criar imagens, vídeos e sons de caráter pedopornográfico, ou que representem as partes íntimas de uma pessoa identificável, ou que mostrem uma pessoa participando de atividades sexuais, sem o seu consentimento.

A nova regulamentação será aplicada a partir de 2 de dezembro de 2026. Na data, os serviços de IA deverão contar com medidas de segurança que as impeçam de gerar esse tipo de conteúdo.

A medida foi adotada como parte de uma revisão da legislação europeia sobre IA, uma lei pioneira aprovada formalmente há dois anos.

Os 27 países-membros e os eurodeputados também concordaram em adiar a entrada em vigor das novas normas para regulamentar a atividade dos chamados sistemas de IA de alto risco, que atuam em áreas sensíveis como segurança, saúde ou direitos fundamentais.

O.Lessard--SMC