Pourquoi les modèles d’IA actuels peinent-ils à représenter fidèlement les communautés noires et brunes ?
John Pasmore, un des pionniers de l’intelligence artificielle depuis 2008, était d’abord enthousiasmé par ChatGPT. Cependant, il a vite réalisé que cet outil puissant ne comprenait pas les nuances culturelles, surtout celles propres aux communautés noires et brunes. Est-ce une surprise, étant donné que la plupart des IA sont entraînées avec des données à forte dominante occidentale ? Cette lacune a poussé plusieurs fondateurs noirs à créer des alternatives mieux adaptées à leurs réalités.
Des chatbots et versions de ChatGPT spécifiquement destinées aux communautés de couleur ont vu le jour récemment. John Pasmore a fondé Latimer.AI pour fournir des réponses plus représentatives des expériences des personnes noires et brunes. Erin Reddick, quant à elle, a lancé ChatBlackGPT, une autre initiative similaire. Mais ces efforts suffiront-ils à combler le fossé créé par une IA de base biaisée ?
« Nous sommes les gardiens de nos propres histoires et expériences. » – Tamar Huggins
Latimer.AI et ChatBlackGPT ne sont pas isolés. Le Canada a vu l’émergence de Spark Plug, un modèle alternatif pour les étudiants noirs et bruns. En Afrique, où plus de 2 000 langues et dialectes sont parlés, les initiatives se multiplient pour pallier les manques des modèles IA occidentaux. Quels impacts ces innovations auront-elles sur les futurs développements dans ce domaine ?
Tamar Huggins, la fondatrice de Spark Plug, souligne l’importance de créer des infrastructures que les communautés possèdent et contrôlent pour garantir que leurs données restent bien à eux. Latimer.AI utilise des sources comme le Amsterdam News pour garantir une plus grande précision. Est-ce une approche viable pour lutter contre les biais existants dans les modèles standardisés ?
Erin Reddick, en phase bêta avec ChatBlackGPT, collabore avec des institutions éducatives noires pour améliorer son algorithme. Le modèle d’IA de Tamar Huggins inclut la traduction de matériel éducatif en anglais vernaculaire afro-américain (AAVE). Est-ce la clé pour une meilleure représentation de ces communautés dans l’IA ?
Le manque de données africaines dans les journaux d’IA et la culture orale des communautés noires rendent difficile l’entraînement de modèles sur leurs spécificités. Yinka Iyinolakan a créé CDIAL.AI pour répondre à ce besoin, incluant la voix et les dialectes africains. Serait-ce la solution pour inclure enfin une grande partie des cultures mondiales dans les modèles d’IA ?
Des avancées se réalisent. Jones et Brown ont lancé pocstock pour diversifier les images disponibles pour l’entraînement des modèles IA. Bien que des progrès soient notés chez de grands fournisseurs d’images, beaucoup reste à faire. L’avenir des IA sera-t-il plus inclusif grâce à ces initiatives ?
Il est clair qu’il y a un besoin urgent que davantage de fondateurs de couleur participent au développement de plateformes IA, selon Jones. Faute de quoi, les biais actuels risquent de se perpétuer. Serons-nous témoins d’une véritable révolution culturelle dans le monde de l’IA dans les années à venir ?
Source : Techcrunch
