Les bots pornographiques font-ils désormais partie intégrante de l’expérience des réseaux sociaux? Malgré les efforts des plateformes pour les éradiquer, nous nous sommes habitués à les voir inonder les sections commentaires des memes et des publications de célébrités, et si vous avez un compte public, ils ont probablement déjà aimé vos histoires. Mais leur comportement continue de changer légèrement pour rester en avance sur les filtres automatisés, et maintenant, les choses commencent à devenir étranges.
Auparavant, les bots pornographiques tentaient principalement d’attirer les gens avec des accroches suggestives ou même franchement grivoises. Désormais, il est courant de voir des comptes de bots publier un mot seul, inoffensif et totalement hors sujet, parfois accompagné d’un emoji ou deux. Mais est-ce que cette nouvelle stratégie marque une évolution dans leur manière d’éviter la détection?
Mais vraiment, assistons-nous à l’émergence d’une autre manœuvre d’évasion que les escrocs utilisent pour aider leurs bots à échapper à la technologie de détection de Meta, ou s’agit-il simplement d’une forme de paresse? « Ils veulent juste entrer dans la conversation, donc avoir à rédiger une phrase cohérente n’a probablement pas de sens pour eux », explique Satnam Narang, ingénieur de recherche pour l’entreprise de cybersécurité Tenable.
« C’est une technique d’évasion et manifestement, elle fonctionne. »
L’usage de mots aléatoires aide les escrocs à passer sous le radar des modérateurs qui peuvent rechercher des mots-clés particuliers. Dans le passé, ils ont essayé des méthodes comme mettre des espaces ou des caractères spéciaux entre chaque lettre des mots qui pourraient être signalés par le système. « Vous ne pouvez pas nécessairement bannir un compte ou fermer un compte s’ils commentent juste le mot ‘insecte’ ou ‘terreur’, car c’est très bénin, » a déclaré Narang. « Mais s’ils sont comme, ‘Regardez mon histoire,’ ou quelque chose… cela pourrait signaler leurs systèmes. »
L’année dernière, Instagram a déployé une série d’outils visant à donner aux utilisateurs plus de visibilité sur la façon dont il gère les bots spammeurs et donnant aux créateurs de contenu plus de contrôle sur leurs interactions avec ces profils. Les détenteurs de comptes peuvent désormais, par exemple, supprimer en masse les demandes de suivi de profils signalés comme spam potentiel.
« C’est un jeu de whack-a-mole, » a dit Narang, et les escrocs gagnent. « Vous pensez que vous l’avez, mais alors cela apparaît juste ailleurs. » Les escrocs sont très habiles à comprendre pourquoi ils ont été bannis et à trouver de nouvelles façons de contourner la détection en conséquence.
On pourrait supposer que les utilisateurs des réseaux sociaux d’aujourd’hui seraient trop avertis pour tomber dans le panneau de commentaires évidemment écrits par des bots comme « Michigan 🌟, » mais selon Narang, le succès des escrocs ne repose pas nécessairement sur le fait de tromper des victimes crédules pour leur soutirer de l’argent. Ils participent souvent à des programmes d’affiliation, et tout ce dont ils ont besoin, c’est que les gens visitent un site web – généralement présenté comme un « service de rencontres pour adultes » ou similaire – et s’inscrivent gratuitement.
Les préjudices causés par les bots spam vont au-delà des maux de tête qu’ils pourraient ultimement causer aux quelques personnes dupées pour s’inscrire à un service douteux. Les bots pornographiques utilisent principalement des photos de vraies personnes qu’ils ont volées sur des profils publics, ce qui peut être embarrassant une fois que le compte spam commence à demander en ami tout le monde que la personne dépeinte connaît. Leurs présences posent également des défis aux vrais créateurs de contenus dans les industries du sexe et des sujets connexes sur les réseaux sociaux, que beaucoup utilisent comme une avenue pour se connecter avec des audiences plus larges mais doivent constamment lutter pour éviter d’être déplatformés. Les comptes imposteurs sur Instagram peuvent accumuler des milliers de followers, détournant potentiellement les visiteurs des vrais comptes et jetant le doute sur leur légitimité. Et de vrais comptes sont parfois signalés comme spam dans la chasse de Meta aux bots, mettant ceux avec un contenu racoleur encore plus à risque de suspension et de bannissement de compte.
Malheureusement, le problème des bots n’est pas quelque chose qui a une solution facile. « Ils trouvent simplement continuellement de nouvelles façons de contourner [la modération], en proposant de nouveaux stratagèmes, » a déclaré Narang. Les escrocs suivront toujours l’argent et, à cette fin, la foule. Tant qu’il y aura de l’argent à gagner, il y aura des incitations pour ces escrocs. Mais cela conduit à la question, comment les plateformes de réseaux sociaux peuvent-elles évoluer pour contrer cette menace en constante adaptation?
Source : Engadget
