« L’intelligence artificielle est la nouvelle électricité. Espérons qu’elle ne nous choque pas trop ! »
Le projet de loi SB 1047 de Californie, visant à éviter les catastrophes causées par l’IA, fait des vagues dans la Silicon Valley. Alors que ce projet de loi pourrait sembler être une mesure de bon sens, il a suscité une importante controverse parmi les acteurs de la technologie. Appuyé par certains chercheurs et désapprouvé par des géants comme OpenAI, il soulève des questions cruciales sur la sécurité et l’innovation.
Ce projet de loi cherche à prévenir les « dommages critiques » provoqués par des modèles d’IA sophistiqués. Imaginez un malfrat utilisant un modèle d’IA pour concevoir une arme meurtrière ou orchestrer une cyberattaque de 500 millions de dollars. SB 1047 exige que les développeurs mettent en place des protocoles de sécurité rigoureux pour éviter de tels scénarios. Ça ne ressemble pas un peu au scénario d’un film d’action ?
Le projet de loi cible uniquement les modèles IA les plus gigantesques, ceux qui coûtent plus de 100 millions de dollars et nécessitent des calculs colossaux pour s’entraîner. Des entreprises comme OpenAI, Google et Microsoft sont probablement les premières dans la ligne de mire. Avec des millions investis, on pourrait dire que l’IA nécessite une fortune pour prédire la fortune.
Prévenir vaut mieux que guérir, surtout quand il s’agit d’IA.
Si vous avez pensé que ce projet de loi affecterait seulement les géants de la tech, détrompez-vous ! Même les startups pourraient être impactées dès qu’elles franchissent le seuil des 100 millions de dollars. Et si jamais ces entreprises pensent à s’échapper en développant leurs modèles ailleurs, SB 1047 s’assure qu’il les rattrape dès qu’elles opèrent en Californie. C’est sûr que déménager en France ne les sauvera pas !
Les voix critiques ne manquent pas. Tandis que certains comme Geoffrey Hinton et Yoshua Bengio, les « parrains de l’IA », soutiennent le projet de loi, d’autres clament que cela freinerait l’innovation. Marc Andreessen de la firme a16z et des têtes d’affiche comme Fei-Fei Li et Andrew Ng parlent d’un impact négatif sur l’écosystème AI.
Un des points les plus juteux de cette histoire est probablement comment Dan Hendrycks, directeur du Center for AI Safety, a lancé sa propre startup puis s’est retiré pour montrer que ses intentions étaient pures. Certaines mauvaises langues diront que c’est comme le boulanger qui quitterait sa boulangerie après avoir vendu une recette de pain de sécurité infaillible !
Bref, que vous soyez un développeur d’IA avec un budget colossal ou une petite startup innovante, le SB 1047 pourrait bien transformer la manière dont vous menez vos affaires. Et n’oubliez pas, avec un projet de loi aussi important, le risque de catastrophe n’a jamais été aussi lucratif. Alors, prêt à appuyer sur le bouton d’arrêt d’urgence ?
Source : Techcrunch
