Image gracieuseté de ChatBlactGPT

Au début, John Pasmore était enthousiasmé par ChatGPT.

Le fondateur de la série travaillait dans le domaine de l'intelligence artificielle depuis au moins 2008. Il a rappelé l'époque où les experts déclaraient qu'il faudrait des décennies avant que le monde ne voie quelque chose comme un ChatGPT. Avance rapide – ce jour est maintenant arrivé.

Mais il ya un hic.

ChatGPT, l'un des outils d'intelligence artificielle les plus puissants au monde, est aux prises avec les nuances culturelles. C'est assez ennuyeux pour une personne noire comme Pasmore. En fait, cet oubli a suscité l’ire de nombreux Noirs qui ne se voyaient déjà pas correctement représentés dans les algorithmes vantés pour sauver un jour le monde. Le ChatGPT actuel propose des réponses trop généralisées à des questions spécifiques qui s'adressent à certaines communautés, tant sa formation apparaît eurocentrique et occidentale dans son biais. Ce n’est pas unique : la plupart des modèles d’IA ne sont pas conçus pour les personnes de couleur. Mais de nombreux fondateurs noirs tiennent absolument à ne pas être laissés pour compte.

De nombreuses versions ChatGPT appartenant à des Noirs sont apparues au cours de la dernière année pour répondre spécifiquement aux communautés noires et brunes, alors que les fondateurs noirs, comme Pasmore, cherchent à capitaliser sur le glissement culturel d'OpenAI.

« Si vous demandez au modèle en général quels sont certains des artistes les plus importants de notre culture, il vous donnera Léonard de Vinci et Michel-Ange », a déclaré Pasmore à propos de ChatGPT. « Il ne dira rien sur l'Inde, la Chine, l'Afrique ou même les Afro-Américains, car il a un parti pris centré sur la trajectoire européenne de l'histoire. »

Pasmore a donc lancé Latimer.AI, un modèle de langage pour donner des réponses adaptées pour refléter les expériences des personnes noires et brunes. Erin Reddick a lancé ChatBlackGPT, un chatbot également centré sur les communautés noires et brunes. À l'échelle mondiale, il existe Spark Plug, basé au Canada, qui est essentiellement un ChatGPT pour les étudiants noirs et bruns. L’Afrique connaît également de vastes innovations dans ce domaine, avec l’apparition de modèles linguistiques pour répondre aux plus de 2 000 langues et dialectes parlés sur le continent que les modèles occidentaux d’IA négligent encore.

« Nous sommes les gardiens de nos propres histoires et expériences », a déclaré à TechCrunch Tamar Huggins, la fondatrice de Spark Plug. « Nous devons créer des systèmes et des infrastructures que nous possédons et contrôlons, pour garantir que nos données restent les nôtres. »

L'IA personnalisée est là

Les modèles d’IA généralisés ne peuvent pas facilement capturer l’expérience afro-américaine car de nombreux aspects de cette culture ne sont pas en ligne. Les algorithmes actuels utilisent Internet pour s'approvisionner, mais de nombreuses traditions et dialectes de la culture afro-américaine sont transmis oralement ou de première main, ce qui laisse un écart entre ce qu'un modèle d'IA comprendra de la communauté et les nuances de ce qui se passe réellement.

C'est l'une des raisons pour lesquelles Pasmore a essayé d'utiliser des sources comme Amsterdam News, l'un des plus anciens journaux noirs des États-Unis, tout en créant Latimer.AI, en se concentrant sur l'exactitude plutôt que sur la formation sur les données générées par les utilisateurs et récupérées sur Internet. Ce faisant, il a commencé à voir des différences entre son modèle et celui de ChatGPT.

Il a un jour interrogé ChatGPT sur le chemin de fer clandestin, le passage que les esclaves noirs américains utilisaient pour se rendre dans les États du Nord pour échapper à l'esclavage. Le modèle de ChatGPT mentionnerait les esclaves en fuite, tandis que Latimer.AI a ajusté la formulation, faisant référence aux « esclaves » ou aux « personnes en quête de liberté », ce qui est plus conforme à ce qui est devenu plus socialement adapté en parlant des anciens esclaves.

« Il existe des différences subtiles dans le langage utilisé par le modèle en raison des données de formation, et le modèle lui-même ne pense qu'aux personnes noires et brunes », a déclaré Pasmore.

Pendant ce temps, ChatBlackGPT d'Erin Reddick est toujours en mode bêta et prévoit un lancement le 16 juin. Son produit fonctionne comme il semble : un chatbot où l'on peut poser des questions et recevoir des réponses personnalisées sur la culture noire. « L'essentiel de ce que nous faisons est véritablement axé sur la communauté », a-t-elle déclaré.

Crédits images : ChatBlackGPT et Stefan Youngblood

Elle est en train de développer l'outil, demandant aux utilisateurs à quoi ils souhaitent qu'il ressemble et comment ils souhaitent qu'il agisse. Elle fait également équipe avec des établissements d'enseignement comme les collèges et universités historiquement noirs (HBCU) pour travailler avec les étudiants afin qu'ils enseignent et qu'ils l'aident à former son algorithme. Elle a déclaré qu’elle souhaitait « créer une opportunité d’apprentissage complète pour que les personnes noires et brunes disposent d’un espace sûr pour explorer l’IA ».

« L'algorithme donne la priorité aux sources d'informations noires afin qu'il puisse s'adresser à un ensemble de connaissances plus immédiatement accessible que votre expérience moyenne », a-t-elle déclaré à TechCrunch, ajoutant que, comme le produit de Pasmore, techniquement, tout le monde peut l'utiliser.

Tamar Huggins a construit Spark Plug pour offrir également une expérience plus personnalisée aux communautés noires et brunes. Sa plateforme traduit du matériel pédagogique en anglais vernaculaire afro-américain (AAVE), l'ethnolecte associé aux communautés noires américaines. Ce dialecte est traditionnellement transmis oralement et de première main plutôt qu'étudié et écrit comme l'anglais standard, ce qui signifie que l'exactitude d'un modèle (ou d'une personne) d'IA qui l'apprend uniquement à partir d'Internet perdra en précision. Il est important de capturer AAVE avec précision, non seulement pour que le GPT réponde en l'utilisant, mais également pour que les étudiants puissent rédiger plus facilement des invites qui permettront à l'IA de renvoyer les résultats dont ils ont besoin.

Image du site Web de Spark Plug
Crédits images : Bougie d'allumage (capture d'écran)

« En créant du contenu qui trouve un écho auprès des étudiants noirs, nous veillons à ce qu'ils se voient dans l'éducation, ce qui est essentiel à un engagement élevé et à la réussite scolaire », a déclaré Huggins. « Lorsqu’elles en ont l’occasion, les Big Tech donneront presque toujours la priorité aux profits plutôt qu’aux personnes. Nous avons donc créé notre propre voie au sein de l’espace IA.

Huggins a entraîné son algorithme sur des textes comme Shakespeare, aux côtés des écrits d'auteurs noirs de la Renaissance de Harlem, et même du verbiage de sa fille adolescente pour capturer l'essence de l'AAVE. Huggins travaille également avec des éducateurs, des linguistes et des experts culturels pour examiner et valider les résultats de Spark Plug.

Pasmore s'efforce également d'étendre son entreprise aux écoles, en particulier aux HBCU, alors que de plus en plus d'étudiants se tournent chaque jour vers ChatGPT pour terminer leur travail.

« C'est un meilleur compagnon d'IA pour une grande partie du travail que les enfants noirs et bruns sont chargés de faire », a-t-il déclaré.

Unir la diaspora

L’Afrique se voit négligée dans le mouvement actuel de l’IA. Par exemple, seulement 0,77 % du total des revues mondiales sur l'IA proviennent d'Afrique subsaharienne, contre 47,1 % et 11,6 % respectivement en Asie de l'Est et en Amérique du Nord, selon un rapport sur l'indice d'intelligence artificielle de 2023. En termes de population, comparée à l'Amérique du Nord, l'Afrique représente environ 17 % de la population mondiale, contre seulement 7 % de l'Amérique du Nord. Lorsqu’il est temps de rassembler des informations et des experts sur l’IA, les chances que les recherches menées en Afrique subsaharienne soient utilisées sont assez faibles, ce qui pourrait avoir un impact sur le développement d’outils mondiaux d’IA.

Alors que l’Afrique connaît de nombreux progrès dans la création de modèles linguistiques plus inclusifs qui servent mieux la diaspora noire, à l’heure actuelle, les modèles d’IA actuels, de ChatGPT à Gemini, ne peuvent pas pleinement prendre en charge les plus de 2 000 langues parlées à travers l’Afrique.

Yinka Iyinolakan a créé CDIAL.AI pour résoudre ce problème. CDIAL.AI est un chatbot capable de parler et de comprendre presque toutes les langues et dialectes africains, avec un accent particulier sur les modèles de parole plutôt que sur le texte.

Iyinolakan a fait écho à TechCrunch du même sentiment que de nombreux Noirs américains : selon lequel les modèles fondamentaux d'IA sont principalement extraits des données Internet et des langues les plus couramment parlées. À l’instar de la culture afro-américaine, de nombreuses langues et traditions africaines sont absentes d’Internet, car il s’agit d’une culture historiquement communiquée oralement plutôt que sous forme écrite. Cela signifie que les modèles d’IA ne disposent pas de suffisamment d’informations sur les cultures africaines pour s’entraîner eux-mêmes, laissant ainsi un déficit de connaissances.

Crédits images : Site CDIAL.AI

Pour CDIAL.AI, Iyinolakan a fait appel à plus de 1 200 locuteurs et linguistes natifs de toute l'Afrique pour collecter des connaissances et des idées afin de construire ce qu'il salue « le premier grand modèle linguistique multilingue au monde axé sur la voix ». La société prévoit de se développer au cours des 12 prochains mois pour inclure encore plus de langues et créer un modèle prenant en charge le texte, les voix et les images.

Il n'est pas seul ici. Google a récemment accordé une subvention de 1,4 million de dollars à Jacaranda Health, basée au Kenya, pour développer ses services d'apprentissage automatique afin de pouvoir travailler dans davantage de langues africaines. Intron Health a récemment levé plusieurs millions de dollars pour étendre sa reconnaissance clinique de la parole aux plus de 200 accents parlés à travers l'Afrique. .

« La Silicon Valley veut croire qu'elle est la solution ultime pour l'intelligence artificielle », a déclaré Iyinolakan. « Mais pour obtenir l'intelligence artificielle, qui est l'étoile polaire de toutes les entreprises, il faut qu'elles intègrent un tiers des connaissances mondiales. »

Faire des progrès

S'attaquer aux chatbots IA n'est pas la seule innovation à laquelle les fondateurs noirs tentent de s'attaquer.

Steve Jones a lancé la société pocstock pour créer des images d'archives de personnes de couleur car, depuis des décennies, il y a une pénurie de minorités représentées dans l'imagerie d'archives. C’est l’une des raisons pour lesquelles les mannequins d’aujourd’hui crachent principalement des images de personnes blanches lorsque les utilisateurs leur demandent de générer des photos de n’importe quoi, des médecins aux chanteurs pop.

« Toutes les plateformes et tous les outils doivent être formés à partir de données complètes, racialement inclusives et culturellement exactes, sinon nous le ferons. [perpetuate] les problèmes de préjugés auxquels notre société dans son ensemble est actuellement confrontée », a déclaré Jones à TechCrunch. Pour résoudre ce problème, Pocstock a passé les cinq dernières années à collecter des données sur la diversité et à créer son propre système de marquage visuel qui contribue à une base de données que les entreprises utilisent pour aider à former leurs modèles d'IA afin qu'ils puissent produire des images plus inclusives.

Certaines améliorations se produisent cependant. Jones a déclaré avoir remarqué que de plus grandes sociétés d'imagerie boursière qui s'approvisionnaient auprès de sociétés d'IA faisaient de plus grands progrès pour accroître la diversité de leur contenu. Pasmore voit également un avenir meilleur, affirmant que l'IA personnalisée est de toute façon l'avenir et que plus les modèles d'IA interagissent avec leurs utilisateurs, plus ils comprendront les désirs et les besoins d'une personne spécifique, « ce qui, je pense, élimine beaucoup de préjugés. .»

Il pourrait même y avoir de la place pour des modèles d’IA plus spécifiques à la culture à l’avenir, d’autant plus que de plus en plus d’alternatives appartenant à des Noirs continuent d’apparaître. Après tout, le monde est vaste et plus nuancé – il ne sert à rien d’essayer de le mettre dans une seule boîte noire.

« J'espère que davantage de fondateurs de couleur s'impliqueront dans le développement de leurs propres plates-formes d'IA ou dans la création de nouveaux emplois liés à l'IA le plus tôt possible au cours du prochain boom économique », a déclaré Jones. « L'IA va créer des billions, et j'aimerais voir les personnes de couleur prendre le rôle de producteurs et pas seulement de consommateurs. »

A lire également