En juin 2020prenant avantage d’une loi de Chicago obligeant les applications de covoiturage à divulguer leurs prix, des chercheurs de l’Université George Washington ont publié une analyse des algorithmes utilisés par les startups de covoiturage comme Uber et Lyft pour fixer les tarifs. Il a mis en lumière des preuves que les algorithmes facturaient plus les cyclistes vivant dans des bâtiments avec des populations plus âgées, à faible revenu et moins instruites que ceux qui venaient de zones aisées, un effet que les chercheurs ont lié à la grande popularité de – et donc à la forte demande de – ride -le partage dans des quartiers plus riches.
Uber et Lyft ont rejeté les conclusions de l’étude, affirmant qu’il y avait des failles dans la méthodologie. Mais c’était à peine la première étude pour identifier les incohérences troublantes dans la prise de décision algorithmique des applications.
Les passagers ne sont pas les seuls à être victimes des algorithmes de routage et de tarification. Uber a récemment fait l’objet de critiques pour avoir mis en place des « tarifs initiaux » pour les chauffeurs, qui s’appuient sur un algorithme pour calculer les tarifs à l’avance en utilisant des facteurs qui ne sont pas toujours en faveur des chauffeurs.
Dans l’espace de livraison, Amazon routage Le système encouragerait les conducteurs à prendre des décisions dangereuses sur la route en quête de fenêtres de livraison plus courtes. Pendant ce temps, des applications comme DoorDash et Instacart utilisent des algorithmes pour calculer le salaire des coursiers – des algorithmes qui, selon certains livreurs, ont rendu plus difficile prédire et déterminer leurs gains.
Comme le notent des experts comme Amos Toh, chercheur principal pour Human Rights Watch qui étudie les effets de l’IA et des algorithmes sur le travail à la demande, plus les algorithmes sont opaques, plus les régulateurs et le public ont du mal à tenir les entreprises responsables.
