« Parfois, le futur ne nous regarde pas dans les yeux, mais plutôt de travers », pourrait bien être le prologue d’une saga de science-fiction. Sauf que cette fois-ci, il s’agit de la réalité alarmante de l’utilisation d’un programme expérimental de reconnaissance faciale à Gaza par le renseignement militaire israélien, décrit par The New York Times. Selon les informations, cette technologie aurait mal identifié des civils palestiniens comme ayant des liens avec le Hamas. Petite cerise sur le gâteau technologique, Google Photos est impliqué malgré lui, sans pour autant être en collaboration directe.
Ce qui a commencé comme une noble quête pour retrouver des otages israéliens a rapidement pris l’envergure d’un outil scrutant chaque particule de vie à Gaza à la recherche de liens avec le Hamas. La nouvelle technologie, aussi infaillible soit-elle dans les projections PowerPoint, affiche ses lacunes dans le feu de l’action. Les soldats israéliens, cependant, semblent ne pas tenir compte de ces petits ‘bug’ et continuent à arrêter des civils innocents floués par le système.
Selon les officiers interrogés, la technologie est fournie par Corsight, une fierté technologique de Tel Aviv. Elle promettait de reconnaître des individus avec seulement une partie de leur visage visible, défiant angles extrêmes et obscurités. Mais la réalité, aussi entêtante qu’une mouche un soir d’été, montre que cette technologie lutte contre l’adversité visuelle d’un visage abîmé ou mal capturé.
Dans un twist digne d’un film de science-fiction, il s’avère que Google Photos joue le rôle inattendu de complément technologique à une saga de surveillance dystopique.
Bien qu’un officier ait vanté les mérites supérieurs de Google Photos pour identifier des visages partiellement cachés, ils ont continué avec Corsight pour sa « customisation ». Google, de son côté, joue la carte de l’innocence, rappelant que Google Photos n’est qu’un organiseur d’album grand public sans ambitions d’être protagoniste dans une affaire de reconnaissance faciale internationale.
Le récit d’un poète détenu par erreur, Mosab Abu Toha, ajoute à ce tableau une touche humaine et réelle. Interpellé, menotté, et interrogé sous couvert d’une erreur technologique, il témoigne de la réalité glaçante d’un outil prometteur transformé en instrument d’erreurs judiciaires.
Ce récit, mis à jour avec une réponse de Google à Engadget, nous rappelle que la frontière entre avancée technologique et dystopie Orwellienne est plus fine qu’une toile d’araignée dans la brume matinale. Et comme le prouve cette histoire, même la technologie la plus avancée peut être prise au dépourvu par la complexité et la nuance de la réalité humaine.
Source : Engadget
