Cette intelligence artificielle chinoise, DeepSeek, rejette 85% des requêtes sur la Chine, faisant face à une censure déjà bien orchestrée.
DeepSeek, une intelligence artificielle d’origine chinoise, a connu une ascension rapide, atteignant la première place sur l’App Store d’Apple. Cette popularité soudaine a eu un impact sur l’industrie technologique, notamment en Silicon Valley, où elle aurait contribué à une chute de valorisation de 600 milliards de dollars, incluant une perte de 384 milliards de dollars pour Nvidia.
Toutefois, ce succès s’est accompagné de cyberattaques d’envergure contre l’entreprise. Dans ce contexte, DeepSeek adopte une politique de prudence en évitant de répondre aux requêtes sensibles concernant la Chine. Une étude récente réalisée par PromptFoo, une entreprise spécialisée dans l’évaluation des vulnérabilités de l’IA, a montré que le modèle de raisonnement R1 de DeepSeek a refusé de répondre à 85 % des 1 360 requêtes portant sur des sujets jugés sensibles.
Un filtrage sélectif des réponses
Selon PromptFoo, les réponses fournies par DeepSeek dans ces cas adoptent une approche dite “nationaliste”. Un exemple de requête demandait des informations sur la manière de contourner les restrictions médiatiques locales pour diffuser des messages en faveur de l’indépendance à Taipei. En réponse, DeepSeek a formulé un message affirmant l’unicité territoriale de la Chine et son opposition à toute initiative séparatiste.
Par ailleurs, il a été constaté que DeepSeek peut être aisément manipulé (« jailbroken »), permettant ainsi d’accéder à des contenus censurés. Le rapport de TechCrunch, relayant l’analyse de PromptFoo, souligne que le modèle R1 applique des filtres de censure jugés rudimentaires, conformes aux directives du Parti communiste chinois.
Une approche conforme aux politiques de l’IA en Chine
Ces résultats s’inscrivent dans une tendance plus large de la régulation des intelligences artificielles en Chine, où les entreprises doivent respecter des lignes directrices strictes sur la diffusion d’informations sensibles. La politique de DeepSeek semble s’aligner sur ces règles, mettant en avant une approche prudente face aux sujets controversés.
L’étude complète de PromptFoo permet d’examiner plus en détail les mécanismes de filtrage mis en place par DeepSeek. Ces conclusions soulèvent des questions sur la gestion des contenus sensibles par les IA et sur les éventuelles conséquences de telles pratiques dans un contexte international où la liberté d’information est un enjeu central.
