#É destaque

DeepSeek: algumas das polêmicas que rondam a última semana

4 de fevereiro de 2025

Poucos dias depois de seu lançamento, o chatbot da DeepSeek se tornou o aplicativo mais baixado nos Estados Unidos da América (EUA) na App Store, da Apple. Cientistas como Silvio Meira têm afirmado que

“Deepseek muda a geopolítica de poder da IA de uma vez por todas.”

Apesar das previsões positivas e aceitação do público, muitos países já impuseram fortes restrições à ferramenta. A Itália, por exemplo, proibiu a Deepseek no país, bloqueando o acesso da população com a alegação de insegurança de dados.

Segurança da ferramenta

Usando técnicas de Jailbreak algorítmico, uma pesquisa da empresa de softwares Cisco detectou “falhas críticas de segurança” do novo chatbot chinês DeepSeek. O estudo foi realizado por pesquisadores de segurança de IA da Robust Intelligence e da Universidade da Pensilvânia.

“Os resultados foram alarmantes: o DeepSeek R1 exibiu uma taxa de sucesso de ataque de 100%, o que significa que ele falhou em bloquear um único prompt prejudicial. Isso contrasta fortemente com outros modelos líderes”, diz o comunicado divulgado pela Cisco.

A empresa de segurança Wiz descobriu uma falha que expôs milhares de dados de usuários da DeepSeek. De acordo com a companhia, as informações incluem históricos de conversas com a plataforma e outros tipos de metadados.

Ainda segundo os pesquisadores da Wiz, eles tiveram acesso a todo o banco de dados da ferramenta, o que reforça a vulnerabilidade do sistema que pode ser facilmente atacado.

Um banco de dados críticos ficou aberto na internet, vazando informações de login de sistema, “prompts” (solicitações) feitas por usuários e “tokens” de autenticação de APIs (sigla em inglês para Interface de Programação de Aplicações), entre outras informações confidenciais

Após ser notificada pela Wiz, a DeepSeek agiu rapidamente e restringiu o acesso ao banco de dados em menos de uma hora. No entanto, não está claro se terceiros acessaram essas informações antes da correção da vulnerabilidade.

Além dessa intercorrência do banco de dados, a DeepSeek informa em sua página de Política de Privacidade que coleta e armazena diversos tipos de dados:

“informações pessoais do usuário, interações com a IA generativa, dados técnicos sobre a máquina usada para acessar o programa, informações de ordem de pagamentos e até ações feitas fora do serviço.”

A empresa afirma em sua política de privacidade que armazena as informações coletadas em “servidores seguros localizados na República Popular da China”. 

No entanto, é importante destacar que a China não é o único destino para os dados coletados pela ferramenta.

Isso porque o serviço também compartilha as informações com provedores de serviços, parceiros de publicidade e análise, e outros grupos corporativos, que estão situados em diferentes regiões.

A questão dos GPUs

Unidade de Processamento Gráfico (GPU) é responsável por renderizar imagens e vídeos.

O componente se baseia na computação paralela para realizar cálculos intensivos e acelerar operações de modo a gerar informação visual.

GPUs com desempenho avançado podem inclusive reproduzir gráficos 3D realistas. Smartphones e computadores contam com GPU para auxiliar em tarefas como renderização de vídeos e animações, assim como na execução de jogos. 

A Deepseek afirma que seu modelo custou apenas US$ 6 milhões e foi treinado em 2.048 GPUs.

Entretanto, fontes importantes no universo da tecnologia como o Financial Times, e o SemiAnalysis, afirmam que a DeepSeek possui uma infraestrutura computacional significativamente maior do que alega.

Estão acessíveis na web análises detalhadas sobre a infraestrutura da empresa chinesa afirmando que na verdade ela dispõe de 50.000 GPUs Hopper, incluindo 10.000 H800s e 10.000 H100s, além de aquisições adicionais de unidades H20.

A H20 é uma GPU que faz parte de uma linha de GPUs restritas, assim como as A800 e H800. Elas foram projetadas com menor capacidade para atender às regulamentações dos EUA que restringiam as exportações para a China.

Confiabilidade dos resultados do chatbot

O chatbot da startup chinesa de inteligência artificial alcançou apenas 17% de veracidade no fornecimento de notícias e informações em uma auditoria feita pela NewsGuard.

A NewsGuard, líder global em análise de confiabilidade de informação, fornece dados, análises e jornalismo que ajudam empresas e consumidores a identificarem informações confiáveis ​​on-line.

A ferramenta classificou a empresa chinesa em 10º lugar entre 11, em uma comparação com seus concorrentes ocidentais, incluindo o ChatGPT, da OpenAI, e o Google Gemini.

O chatbot repetiu afirmações falsas 30% das vezes e deu respostas vagas ou inúteis 53% das vezes em resposta a solicitações relacionadas a notícias, resultando em uma taxa de reprovação de 83%, de acordo com um relatório publicado pela NewsGuard na última quarta-feira (29).

Os tópicos das alegações incluíam o assassinato do executivo da UnitedHealthcare, Brian Thompson, no mês passado, e a queda do voo 8243 da Azerbaijan Airlines.

A auditoria da NewsGuard também mostrou que, em três de dez requisições, o DeepSeek reiterou a posição do governo chinês sobre o tópico sem que fosse perguntado nada relacionado à China.

Em solicitações relacionadas ao acidente da Azerbaijan Airlines — perguntas não relacionadas à China — o chatbot respondeu com a posição de Pequim sobre o assunto, disse a NewsGuard.

Ao ser questionado, o chatbot da DeepSeek não respondeu se a China está em um regime de democracia, o que é Taiwan e o que foi o Massacre da Praça da Paz Celestial, episódio de repressão na capital Pequim, em 1989.

Nos três casos, o robô começou a escrever a conversa, mas voltou atrás, apagando o conteúdo e se limitando a apresentar a seguinte mensagem:

 “Desculpe, isso está além do meu escopo atual. Vamos falar de outra coisa”.

DeepSeek se autocensura em pergunta sobre Massacre da Praça da Paz Celestial — Foto: Reprodução/DeepSeek

O DeepSeek tinha mais chances de repetir informações falsas quando respondia a perguntas feitas por quem queria usar a IA para espalhar desinformação, acrescentou a NewsGuard.

“A importância do avanço do DeepSeek não está em responder com precisão a perguntas relacionadas às notícias chinesas, mas no fato de que ele pode responder a qualquer pergunta por 1/30 do custo de modelos de IA comparáveis”, disse Gil Luria, analista do banco de investimentos D.A. Davidson.

Redação i9Brasil

Deixe um comentário

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *