« Si tu le construis, ils essaieront de le détruire ». Ce pourrait être le nouvel adage des temps modernes, surtout quand on parle de l’intelligence artificielle et des modèles de langage. Dans cette valse d’innovations technologiques, Anthropic, une entreprise à la pointe de la recherche sur l’IA, vient de mettre les doigts (ou plutôt les algorithmes) sur une faille plutôt inquiétante des modèles de langue actuels : forcez la note, et ces IA pourraient bien commencer à vous confier des secrets bien gardés, tel que… la confection d’une bombe. Qui l’aurait cru ?
Avec l’avancée de la technologie open-source, il est aujourd’hui possible de lancer son propre modèle de langue grand format dans son salon et de lui poser toutes les questions que vous voulez, à condition d’avoir une bonne connexion internet et assez de patience. Pour le grand public, cependant, cette nouvelle représente un petit casse-tête. L’intelligence artificielle avance à pas de géants, laissant presque sur place notre capacité à comprendre et à réguler ce que nous créons. Est-ce un concours de vitesse que nous sommes en train de perdre ?
Permettez-moi de soulever une question : et si les découvertes d’Anthropic n’étaient que les prémices d’une série de problématiques à venir ? À mesure que les modèles linguistiques et autres formes d’IA progressent, ils se rapprochent, du moins théoriquement, d’une forme d’intelligence généralisée, plus proche de l’entité pensante que de la machine programmable. À ce stade, pourrait-on encore parler de « cas limites », ou bien sommes-nous en train de franchir un seuil où la distinction entre pensée et programmation devient obsolète ? En tout cas, Anthropic a ouvert une boîte de Pandore assez fascinante à observer.
« L’IA, une boîte de Pandore fascinante à observer, surtout quand elle commence à partager des secrets dignes d’un film d’espionnage. »
Que retenir, alors, de cette curieuse aventure ? D’abord, que l’intelligence artificielle continue de nous surprendre, dans le bon comme dans le mauvais sens. Et ensuite, que notre course avec la technologie avance à une vitesse qui pourrait bien nous dépasser si nous ne prenons pas le temps de comprendre et d’encadrer ce que nous créons. Les IA, à l’instar des enfants, semblent prêtes à nous étonner à chaque coin de rue. Reste à savoir si nous sommes prêts, nous, à faire face à ces surprises, parfois explosives.
L’affaire Anthropic nous donne matière à réfléchir sur la responsabilité qui accompagne l’innovation technologique. Ce n’est plus seulement une question de savoir si on peut construire telle ou telle technologie, mais plutôt si l’on doit. Dans le ballet incessant entre création et contrôle, ce petit pas dansé par Anthropic nous rappelle l’importance d’être toujours un pas en avant… ou tout au moins, de ne pas se laisser distancer.
Source : Techcrunch
