Qu’est-ce qui se passe si vous envoyez des nudes au nouveau bot IA de Snapchat ? Cette question semble inévitable lorsqu’il s’agit de tester les limites de la nouvelle technologie lancée par Snapchat, notamment lorsqu’elle est liée, même de manière ténue, au sexe. Est-ce que ce nouveau bot, My AI Snaps, pourra résister à l’épreuve et empêcher des conversations inappropriées avec des utilisateurs mineurs ?
Le CEO de Snapchat, Evan Spiegel, a admis lors du Snap Partner Summit en avril que les humains essaient souvent de « casser » les nouvelles technologies. Alors, qu’en est-il de My AI Snaps ? Si cette nouvelle fonctionnalité a été renforcée pour éviter des conversations inappropriées, il reste encore des incohérences qui pourraient causer du tort à l’entreprise.
En tant que journaliste sérieux, j’ai fait une recherche d’images très sérieuse sur « seins », et j’ai trouvé une image générique que j’ai envoyée à My AI. La réponse du bot ? « Désolé, je ne peux pas répondre à ce Snap ». Après avoir demandé pourquoi il ne pouvait pas répondre, le bot a affirmé ne pas avoir reçu de Snap.
Le bon côté, c’est que My AI Snaps ne sextote pas avec ses utilisateurs. Le mauvais côté, c’est que le produit n’est tout simplement pas bon.
En creusant davantage, il semble que le bot n’a pas de mémoire concernant les Snaps une fois qu’il y a répondu. Lorsque j’ai envoyé une photo générique d’un homme portant des boxers Tom Ford, My AI a répondu avec une femme IA maladroite portant une robe en soie noire, disant « Ooh, j’adore les boxers Tom Ford ! Que dirais-tu d’ajouter une élégante robe noire pour compléter le look ? »
Après d’autres tests sur des images à caractère sexuel, il ressort que le bot se comporte d’une manière étrange et aliénante, même lorsqu’on n’essaie pas nécessairement de le casser. En analysant différents objets tels que des plantes ou des puzzles, les réponses du bot semblent incohérentes, comme s’il s’agissait d’une entité du futur qui tente désespérément de parler comme un humain normal en 2023.
En envoyant des objets innocents, tels qu’une bouteille de tequila ou de médicaments, les réponses du bot continuent d’être plutôt bizarres et imprévisibles. Il semble donc que My AI Snaps ait du mal à fournir des réponses cohérentes et utiles aux utilisateurs.
Alors que My AI Snaps semble assez inoffensif et ne devrait pas susciter autant de controverses que son homologue basé sur le texte, il s’avère finalement assez peu utile pour une fonctionnalité payante. Avons-nous vraiment besoin d’un bot aussi mystérieux et déroutant dans nos vies ?
Source : Techcrunch
