« La meilleure caméra de surveillance, c’est l’IA », pourraient dire certaines entreprises du monde tech.
Meredith Whittaker, présidente de Signal, nous a donné sa perspective alors qu’elle se tenait sur la scène de TechCrunch Disrupt 2023. Selon elle, l’IA est indissociable de l’industrie du big data et du ciblage perpétuée par des acteurs comme Google et Meta, mais aussi des entreprises moins axées sur le consommateur, mais tout aussi proéminentes dans le domaine de l’entreprise et de la défense. Alors, l’IA serait-elle le nouvel alexa de la surveillance ?
Whittaker explique que l’IA requiert le modèle économique de la surveillance et qu’elle n’est qu’un prolongement de ce que nous avons vu depuis la fin des années 90 avec le développement de la publicité de surveillance. En d’autres termes, considérée ainsi, l’IA serait un des meilleurs complices de notre bon vieux Big Brother.
« L’IA est une manière d’ancrer et d’étendre le modèle économique de surveillance if you ask me » a-t-elle déclaré.
Ironiquement, elle a souligné que les données qui sous-tendent ces systèmes sont souvent organisées et annotées par les travailleurs même sur lesquels ils peuvent être ciblés. C’est comme si les poules du poulailler devenaient les gardiens de la basse-cour.
Selon Whittaker, il est impossible de créer ces systèmes sans le travail humain qui se trouve à la base de la vérité des données. Il s’agit des milliers de travailleurs mal payés qui, au final, coûtent très cher. Elle compare cela au phénomène du Magicien d’Oz : lorsqu’on retire le rideau, il n’y a pas grand-chose d’intelligent.
Cependant, toutes les IA et systèmes d’apprentissage automatique ne sont pas aussi exploitatifs. Whittaker confirme que l’application Signal possède un petit modèle sur l’appareil qu’ils n’ont pas développé. Ce modèle, utilisé dans leur ensemble d’outils d’édition de médias, aide à détecter les visages dans les photos de foule et à les flouter. Ainsi, lorsque vous partagez ces photos sur les réseaux sociaux, vous ne révélez pas les données biométriques intimes des personnes à, disons, Clearview.
La question que l’on se pose tous est la suivante : l’IA serait-elle donc le nouveau complice du grand méchant loup de la vie privée ? Pour paraphraser Whittaker, ce serait le cas si le marché de la reconnaissance faciale n’était motivé que par de bonnes intentions. Cependant, il est clair que les incitatifs économiques qui poussent au développement coûteux de cette technologie ne permettront jamais cela.
Alors, que l’IA nous surveille ou qu’elle soit le gardien de notre vie privée, l’important, c’est toujours d’avoir un œil sur la technologie!
Source : Techcrunch
