Comme disait un vieux sage de la Silicon Valley: « L’intelligence artificielle, c’est comme l’enfant prodige de la technologie; il faut toujours garder un œil dessus, sinon il fait des bêtises! » Eh bien, chez OpenAI, on semble prendre cette maxime très au sérieux! Par les temps qui courent, notre précieuse progéniture s’est mise à fricoter avec des outils d’IA générative, et cela n’est pas sans soulever quelques sourcils inquiets chez les parents et les militants.
L’entreprise, qui préfère prévenir que guérir, vient de dévoiler l’existence toute fraîche de sa nouvelle équipe de sécurité enfantine. Plongeant dans le grand bain des politiques de plateformes, des affaires légales et des enquêtes, l’équipe chapeaute déjà la recherche d’un vaillant spécialiste chargé de faire régner l’ordre dans le monde fabuleux (et parfois farfelu) du contenu IA à destination des plus jeunes.
Voilà une nouvelle qui tombe à pic, car des ressources conséquentes sont généralement dédiées par les géants de la tech pour rester dans les clous des lois telles que celle sur la Protection de la Vie Privée des Enfants en Ligne aux États-Unis. OpenAI ne déroge pas à la règle et semble même se préparer à voir débarquer une horde d’utilisateurs mineurs (sous la supervision parentale, bien entendu).
OpenAI montre par l’exemple que la sécurité des enfants sur le Web est un jeu d’enfant… plutôt sérieux!
Il faut dire que la situation s’échauffe quand on réalise que les bambins et adolescents s’approprient l’intelligence artificielle non seulement pour leur devoirs mais pour une pléthore de tracas perso. Un sondage révèle même que certains s’en servent pour gérer anxiété, conflits familiaux et disputes amicales. Whoa! Ça en fait, des patients juniors pour les IA psychologues!
Il y a ceux qui tirent la sonnette d’alarme, craignant les dérapages. Écoles et universités ont joué à « je te bannis, je te bannis plus » avec ChatGPT, tandis que des études montrent que plus de la moitié de ces jeunes internautes ont été témoins ou acteurs de l’utilisation malicieuse de l’IA générative. On se prend à rêver de jours plus idylliques où le pire méfait digital était de voler des poules dans FarmVille…
Afin de border le lit du fleuve IA turbulent qui traverse le paysage éducatif, OpenAI a publié un guide pour aider les enseignants à surfer sur la vague sans boire la tasse. Mais quand l’entreprise elle-même suggère une « prudence » vis-à-vis de son outil ChatGPT pour nos têtes blondes, on comprend qu’il y a anguille sous roche… ou plutôt IA dans le placard!
Ce n’est pas tout: l’UNESCO, tel un super-héros de l’éducation, appelle à toute allure les gouvernements à réglementer fermement l’usage de l’IA générative dans le domaine éducatif. Des mesures telles que la fixation de limites d’âge et la mise en place de balises pour la protection des données et la vie privée des utilisateurs sont avancées. Mais en vrai, on sent que la dwich ne peut pas s’empêcher de faire des bêtises!
Source : Techcrunch
