Você já imaginou suas fotos sendo usadas para criar imagens falsas sem o seu consentimento? É mais comum do que parece, e um recente vazamento de dados expõe a fragilidade da nossa privacidade online. Vamos falar sobre o caso “Nudify”, um serviço de inteligência artificial que gerava imagens íntimas, e como milhões de fotos foram armazenadas sem proteção na internet.
Um serviço de “nudificação” de imagens, utilizando inteligência artificial, teve seus dados expostos.
Um pesquisador descobriu um banco de dados exposto na nuvem, pertencente a um serviço chamado “Nudify”. Este serviço permite transformar fotos comuns em imagens íntimas, em poucos minutos.
Uma empresa sul-coreana, armazenou 93.485 imagens e arquivos JSON, totalizando 47,8 GB, sem nenhuma proteção por senha ou criptografia. O banco de dados estava completamente acessível a qualquer pessoa na internet.
O serviço oferecia diversas ferramentas de edição de imagem com IA, incluindo a criação de imagens a partir de texto, troca de rostos e remoção de fundos. Além disso, possuía um mercado para compra e venda dessas imagens como “arte”.
O pesquisador encontrou várias imagens pornográficas, incluindo representações perturbadoras, aparentemente geradas por IA, de pessoas muito jovens. Apesar das diretrizes da empresa proibirem imagens explícitas de crianças e outras atividades ilegais, muitas foram encontradas.
Algumas _deepfakes_ são quase indistinguíveis de imagens reais, resultando em riscos sérios para a privacidade, ética e legal. Sem falar na humilhação para aqueles cujas imagens foram usadas sem consentimento.
Após o contato com a empresa, o banco de dados foi removido sem maiores explicações.
Protegendo crianças de serviços como o Nudify
Vimos muitos casos de plataformas de mídia social usando conteúdo de usuários para treinar sua IA. Muitas pessoas ignoram os perigos, mas vamos explicar alguns problemas.
Neste caso específico, o uso indevido do conteúdo é extremo.
- Deepfakes: Usuários podem ter usado o serviço para criar _deepfakes_ explícitas sem consentimento. Conteúdo gerado por IA pode ser usado para espalhar desinformação, danificar a reputação ou privacidade, ou fraudar pessoas.
- Metadados: Imagens em redes sociais contêm metadados, como a localização onde foram tiradas. Essas informações podem ser vendidas ou usadas de forma indevida.
- Propriedade Intelectual: Nunca publique algo que você não criou ou possui. Artistas e fotógrafos podem ter seu trabalho explorado sem compensação ou atribuição.
- Viés: Modelos de IA treinados em dados tendenciosos podem perpetuar e amplificar preconceitos sociais.
- Reconhecimento Facial: Embora não seja tão discutido como antes, o reconhecimento facial ainda existe. Ações ou declarações feitas por suas imagens (reais ou não) podem ser vinculadas à sua identidade.
- Memória Digital: Uma vez que uma imagem está online, é quase impossível removê-la completamente. Ela pode permanecer em caches, backups e cópias.
Se você usa redes sociais, considere esses pontos ao publicar fotos suas, de entes queridos ou até mesmo de estranhos.
Não apenas relatamos ameaças, nós as removemos.
Os riscos de segurança cibernética não devem ir além de uma manchete. Mantenha as ameaças longe de seus dispositivos.
Deixe seu comentário abaixo compartilhando suas experiências e preocupações sobre esse assunto.
Fonte: Malwarebytes
