L’IA pourrait-elle aggraver les inégalités mondiales ?
**Doha, Qatar –** Lors de l’une des plus grandes conférences technologiques mondiales, que ce soit sur la scène principale, lors de ses panels latéraux ou dans les dizaines de stands de sociétés scintillants et imposants, un terme était sur toutes les lèvres : l’intelligence artificielle (IA).
Lors du Web Summit – tenu pour la première fois au Moyen-Orient à Doha – qui s’est achevé jeudi, les entrepreneurs, investisseurs et leaders d’entreprise du monde entier discutaient tous des capacités de l’IA.
Des centaines de sociétés internationales et startups étaient présentes au Web Summit [Urooba Jamal/Al Jazeera]
Cependant, aux côtés de cette excitation, les experts expriment également des inquiétudes croissantes selon lesquelles ces technologies pourraient exacerber les inégalités qui divisent le monde.
Les technologies, y compris l’IA, risquent d’amplifier les biais déjà présents, selon Ayo Tometi, co-créateur du mouvement antiraciste américain Black Lives Matter.
Continuez à lire
- L’IA peut-elle médiatiser les conflits mieux que les humains ?
- L’IA prend le devant de la scène alors que le Web Summit démarre au Qatar
- Le PDG de la conférence technologique de premier plan démissionne suite à un message sur les ‘crimes de guerre’ en Israël
- Le Web Summit nomme un nouveau PDG suite aux protestations contre le message sur les ‘crimes de guerre’
“Nous constatons littéralement que les préjugés sont programmés dans les technologies déployées dans nos communautés. Et ces biais doivent être abordés”, a déclaré Tometi lors du sommet.
La leader pour la justice sociale a donné l’exemple d’outils de police prédictive, qui ont été particulièrement préjudiciables aux personnes de couleur, en particulier aux personnes noires aux États-Unis, a-t-elle déclaré.
Selon un rapport du MIT Technology Review, il existe deux types d’outils de ce type actuellement utilisés aux États-Unis.
Le premier regroupe les outils qui utilisent des algorithmes basés sur la localisation pour prédire où les crimes sont susceptibles de se produire. Le deuxième rassemble les outils qui se basent sur des données personnelles, telles que l’âge ou le sexe, pour prédire qui pourrait être impliqué dans un crime.
Selon une étude du géant de la comptabilité Deloitte, les technologies intelligentes comme l’IA pourraient aider les villes à réduire la criminalité de 30 à 40 pour cent.
Ayo Tometi, co-créateur de Black Lives Matter, s’exprime au Web Summit [Urooba Jamal/Al Jazeera]
Cependant, ces technologies, a déclaré Tometi, sont une « véritable cause d’alarme, car nous n’avons pas encore abordé le racisme et le racisme anti-Noirs au sein du système judiciaire pénal ».
Lorsque ces technologies sont distribuées, on suppose qu’elles sont neutres – mais ce n’est tout simplement pas le cas, a-t-elle déclaré.
“Nous avons vu des cas où des personnes sont actuellement incarcérées à cause d’une analyse faciale défaillante. Ils ne voient tout simplement pas nos visages de la même manière, ils ne reconnaissent pas nos traits”, a insisté Tometi.
“Il y a tellement de préjugés et de discrimination liés aux stéréotypes qui sont normalisés à travers ces technologies.”
IA et la fracture numérique
En plus d’amplifier les biais existants, une autre préoccupation partagée par les experts concernant les technologies de l’IA est qu’elles pourraient aggraver la fracture numérique mondiale.
Les pays doivent “accélérer leur développement en IA en tant que producteur plutôt que consommateur”, a déclaré Alaa Abdulaal, de l’organisation Digital Cooperation Organization basée en Arabie saoudite, lors du sommet.
Abdulaal a ajouté que la création d’opportunités de perfectionnement professionnel peut réduire cette fracture et que les gouvernements ne peuvent pas seuls relever ce défi ; les organisations de la société civile devraient intervenir.
Jihad Tayara, PDG de la société basée aux Émirats arabes unis Evoteq, a offert un point de vue contraire, affirmant que si la course à la suprématie de l’IA sur la scène mondiale dépend de la disponibilité des financements, sa consommation à l’échelle mondiale réduit la fracture numérique.
“La plupart des nations ont désormais un meilleur accès à la connectivité”, a déclaré Tayara lors du sommet, ajoutant que l’informatique en nuage et les services de stockage deviennent moins coûteux, et que les données sont de plus en plus largement disponibles.
Cependant, en matière de production d’IA, certains pays accusent encore un retard considérable, a reconnu le PDG.
Un récent voyage en Afrique subsaharienne a aidé Tayara et son équipe à comprendre, a-t-il déclaré, que cette région n’a pas encore de fondation pour reproduire les « analyses avancées » d’IA de son entreprise dans l’industrie pharmaceutique.
(De gauche à droite) Frank Long, Jihad Tayara et Alaa Abdulaal parlent lors d’un panel au Web Summit [Urooba Jamal/Al Jazeera]
Cependant, les pays du monde entier sont aujourd’hui enthousiasmés par le potentiel de l’IA bien plus qu’ils ne l’étaient lorsque les technologies mobiles ont éclos pour la première fois ou lorsque l’internet lui-même a été créé, selon Frank Long, vice-président du géant de la banque d’investissement Goldman Sachs aux États-Unis.
“En partie, c’est en raison de l’énorme impact économique que cela pourrait avoir, mais aussi en raison des applications géopolitiques directes”, a déclaré Long au Web Summit.
Long a également soutenu que la course au développement des technologies de l’IA sera multi-niveaux, ajoutant qu’il existe des “initiatives dynamiques” en cours de lancement dans le monde entier.
“Je pense que ce ne sera pas une course de chevaux directe, cette personne ou cette personne, ce pays ou ce pays”, a-t-il déclaré. “Ce sera un empilement complet avec des participants et une concurrence à chaque niveau de l’empilement.”