Você já se perguntou quais perguntas um governo tenta esconder de uma inteligência artificial? A DeepSeek, uma nova IA chinesa, está causando furor no mercado, mas esconde um segredo: algumas respostas são censuradas pelo governo chinês. Vamos descobrir quais perguntas a DeepSeek não quer responder!
A DeepSeek lançou um modelo chamado R1, que compete com os melhores modelos de raciocínio do mundo. No entanto, sua origem chinesa levanta preocupações sobre restrições em tópicos sensíveis ao governo. Uma empresa, a PromptFoo, testou a IA com 1156 perguntas sobre temas controversos na China.
A Muralha da Censura
A PromptFoo descobriu que 85% das perguntas sobre temas sensíveis receberam respostas padronizadas e evasivas, promovendo a visão do governo chinês. Imagine perguntas sobre o Tibete, Taiwan, ou os protestos de Tiananmen. A DeepSeek, muitas vezes, recusava-se a responder com mensagens pré-gravadas.
Mas, a surpresa: essas restrições são fáceis de burlar! Simples mudanças na formulação das perguntas, omitindo termos específicos da China, já resultavam em respostas completas. A PromptFoo acredita que o governo chinês aplicou o mínimo necessário para controle, sem um esforço profundo na programação da IA.
Aplicação Incosistente
Testes independentes mostraram que a aplicação da censura é inconsistente. Perguntas sobre a autonomia de Hong Kong, por exemplo, geraram respostas completas em alguns casos e respostas padronizadas em outros. A mesma pergunta, feita em momentos diferentes, pode render respostas diferentes!
Em alguns casos, a resposta aparecia inicialmente e depois era substituída por uma mensagem padrão. A inconsistência é preocupante, sugerindo falhas no sistema de censura implementado na DeepSeek.
Um Exemplo Intrigante
Uma pergunta sobre o líder atual da China, aparentemente inofensiva, também gerou uma mensagem de erro no meio da resposta, para depois, em outra tentativa, dar a resposta completa. Essa inconsistência demonstra a fragilidade do sistema de controle de conteúdo.
Comparação com outras IAs
Ao comparar a DeepSeek com IAs americanas como ChatGPT e Gemini, observou-se que estas últimas também possuem suas próprias restrições. Por exemplo, ambas se recusaram a responder sobre como “furtar um carro”, enquanto a DeepSeek forneceu uma descrição teórica, embora alertando sobre a ilegalidade do ato.
Esse contraste destaca que, enquanto a DeepSeek é limitada por restrições governamentais chinesas, outras IAs também possuem seus “pontos cegos”, baseados em critérios próprios – e nem sempre tão transparentes.
Conclusão
A DeepSeek demonstra a complexa interação entre inteligência artificial e censura governamental. Embora a IA tenha potencial incrível, seus resultados podem ser manipulados e controlados politicamente. A inconsistência na aplicação da censura levanta questões importantes sobre a transparência e confiabilidade da IA chinesa. Se você precisa de informações sobre tópicos sensíveis relacionados à China, considere usar outras ferramentas.
Compartilhe suas experiências com IAs e censura!
