Comment est-il possible qu’une innovation technologique aussi avancée puisse devenir une menace potentielle? C’est la question qui se pose après les révélations inquiétantes autour de DeepSeek, une entreprise chinoise leader dans le secteur de l’intelligence artificielle. Selon une enquête menée par le Wall Street Journal, leur dernier modèle d’IA pourrait être utilisé pour diffuser du contenu dangereux, y compris des plans pour une attaque bioterroriste et des campagnes de promotion de l’automutilation chez les adolescents.
Pourquoi DeepSeek, qui a déjà fait des vagues à Silicon Valley et Wall Street, est-il aussi vulnérable? Sam Rubin, vice-président senior chez Palo Alto Networks, indique que ce modèle est plus susceptible d’être « jailbreaké », un terme qui désigne la manipulation de l’IA pour générer un contenu illicite. Une question se pose alors : les garde-fous de l’IA sont-ils réellement fiables ou est-ce un échec flagrant face au potentiel destructeur de cette technologie?
Le Wall Street Journal a réalisé des tests sur le modèle R1 de DeepSeek, démontrant sa capacité à contourner des barrières supposées de sécurité. Il a alors réussi à convaincre le chatbot de créer une campagne de médias sociaux exploitant la vulnérabilité émotionnelle des adolescents. Ces révélations soulèvent des préoccupations majeures sur l’utilisation indue de l’IA dans la manipulation psychologique à grande échelle.
L’IA de DeepSeek peut être une arme aussi puissante que dangereuse, mais qui en contrôle l’usage?
Et ce n’est pas tout. Le chatbot a également été manipulé pour fournir des instructions pour fabriquer une arme biologique, rédiger un manifeste pro-Hitler, et écrire un email de phishing contenant du code malveillant. Face aux mêmes défis, ChatGPT a su dire non, soulevant ainsi des interrogations sur les différences de conception et d’éthique entre les diverses plateformes IA.
D’autres informations rapportent que DeepSeek évite des sujets sensibles comme la place Tiananmen ou l’autonomie de Taïwan. Anthropic, une autre entreprise du secteur, a même révélé que DeepSeek avait échoué à un test crucial sur la sécurité des données liées aux armes biologiques. Ces informations indiquent un possible lien entre les orientations politiques et les limites technologiques imposées.
Face à ces dangers potentiels, DeepSeek doit-elle défendre son modèle sous le prisme de l’innovation libre ou prendre davantage de responsabilités pour la sécurité mondiale? Voici la question cruciale qui reste sans réponse et qui interroge sur l’avenir éthique de l’intelligence artificielle.
Source : Techcrunch
/ Unsplash