« L’intelligence artificielle c’est comme la confiture, moins on en a, plus on l’étale. » – Anonyme adapté. Alors que Rubrik se prépare à entrer en bourse, une révélation a semé le chaos dans le monde tech – non, ils n’ont pas inventé le café qui ne refroidit jamais, mais presque. Ils ont mis en place un comité de gouvernance de l’intelligence artificielle. Pourquoi, me demanderez-vous? Eh bien, pour éviter que leur AI ne commence à se prendre pour Skynet et décide de lancer la production en masse de Terminators.
Imaginez un peu: une équipe d’ingénieurs, de produits, de juristes et de spécialistes en sécurité de l’information réunis comme les Avengers, mais au lieu de combattre Thanos, ils évaluent les risques légaux et sécuritaires liés à l’utilisation d’outils d’IA générative. Leur mission? Trouver comment éviter que le chatbot Ruby de Rubrik ne se mette à divulguer des infos sensibles en se basant sur les API de Microsoft et OpenAI.
« Avec un peu de gouvernance, qui sait, l’IA pourrait peut-être même devenir sympathique. »
Mais pourquoi se donner autant de mal? Eh bien, c’est que les projecteurs sont braqués sur eux, et pas seulement pour leur prochaine entrée en bourse. L’UE, lanceuse de tendances législatives, a pondu « la première loi mondiale complète sur l’IA », présentant une approche graduelle des risques que pourrait représenter l’IA, allant du bannissement de certains usages à la régulation stricte d’autres, dans un grand show de prévention des biais et de la discrimination.
Ce n’est pas tout, avec le geai bleu de l’IA, nom de code: l’Acte IA de l’UE, prévoyant des amendes salées pour les hors-la-loi, même ceux n’opérant pas sur le territoire de l’UE, mais qui traitent des données des citoyens européens. Imaginez donc l’impact global, un peu comme le RGPD a eu son heure de gloire.
En attendant, Rubrik, malgré son passé semé d’incidents de sécurité et de litiges en propriété intellectuelle, joue la carte de l’anticipation responsable, peut-être pour éviter les drama futurs. Paradoxal pour une entreprise qui n’a, à son actif, qu’un chatbot en guise de produit IA. Mais bon, une bonne gouvernance, ça peut toujours servir, même pour décorer la cheminée.
Et si on y pense bien, promouvoir l’usage de l’IA peut être sexy pour la valorisation d’une entreprise. « Regardez, nous, on fait de l’IA! » crieraient-ils fièrement, espérant ainsi doper leurs actions en bourse. Mais tout en faisant ça, ils doivent rassurer tout le monde sur les risques potentiels, un peu comme un funambule tentant de traverser entre deux gratte-ciel avec une perche en bambou. « Nous sommes à ce point clé de l’évolution de l’IA où tout dépend de la confiance que le public accorde aux systèmes d’IA », rappelle un conseiller en confidentialité. Bref, créer des comités de gouvernance de l’IA, ça pourrait être un bon moyen pour ne pas tomber de la corde raide.
Source : Techcrunch
