Éthique des affaires : dans quelle mesure l’IA est-elle trop ?
crédit photo : Markus Winkler / Pexels

Points clés à retenir

  • L’IA devrait résoudre les problèmes des entreprises plutôt que d’être adoptée simplement parce que l’automatisation est disponible.
  • Remplacer le travail répétitif peut améliorer l’efficacité, mais éliminer complètement le jugement humain peut créer de nouveaux risques.
  • Les clients recherchent souvent la commodité de l’IA, mais s’attendent toujours à avoir accès aux humains lorsque les situations deviennent compliquées.
  • Les employés peuvent devenir plus productifs lorsque l’IA supprime les tâches de faible valeur plutôt que de simplement supprimer des employés.
  • Le bon niveau d’IA dépend de la tâche, des conséquences des erreurs et de la valeur de l’implication humaine.

L’IA peut rendre une entreprise plus rapide, moins chère et plus productive. Il peut résumer des informations, répondre aux questions des clients, analyser des données, créer du contenu, automatiser des tâches répétitives et aider les employés à prendre des décisions.

Mais il y a une autre question que les entreprises doivent se poser à mesure que l’adoption de l’IA s’accélère :

Juste parce que quelque chose peut être automatisé, cela signifie-t-il qu’il devrait l’être ?

Remplacer toutes les tâches humaines possibles par l’IA peut sembler efficace sur une feuille de calcul. En pratique, cependant, une entreprise peut devenir moins fiable, moins réactive et moins capable de gérer des situations qui ne correspondent pas parfaitement à un algorithme.

Le défi consiste à trouver le point où l’IA crée un véritable effet de levier sans supprimer le jugement humain et les relations que les clients et les employés apprécient encore.

L’efficacité de l’IA n’est pas la même que l’efficacité commerciale

L’une des erreurs les plus simples que les entreprises puissent commettre avec l’IA est de mesurer la mauvaise chose.

Supposons qu’un système d’IA permette à une entreprise de répondre à 10 000 demandes de clients sans embaucher d’employés supplémentaires. Sur le papier, cela ressemble à un gain de productivité impressionnant. Mais si les clients reçoivent des réponses génériques, ont du mal à joindre une personne et repartent frustrés, l'entreprise peut avoir optimisé ses coûts de service client tout en nuisant aux relations clients.

L'efficacité mesure la quantité de production qu'une entreprise produit avec une quantité donnée de ressources. L'efficacité consiste à déterminer si ce résultat répond réellement aux besoins de l'entreprise.

L’IA peut améliorer considérablement le premier sans améliorer automatiquement le second.

Automatisation de l'IA
Crédit image : Unsplash

Quand l’automatisation a du sens

Il existe de nombreuses situations contre lesquelles il est difficile de s’opposer à l’utilisation intensive de l’IA d’un point de vue commercial.

Les tâches répétitives, prévisibles et relativement peu risquées sont des candidats naturels. L'IA peut aider à organiser des documents, à résumer des réunions, à rédiger des communications de routine, à catégoriser des informations, à identifier des modèles dans de grands ensembles de données et à faciliter les flux de travail administratifs.

Ces applications peuvent donner aux employés plus de temps pour se concentrer sur un travail exigeant de la créativité, du jugement, de la communication et une expertise spécialisée.

La question éthique se complique lorsque l’automatisation affecte des décisions qui ont un impact significatif sur d’autres personnes.

Le problème de l’automatisation du jugement

Toutes les décisions commerciales ne sont pas simplement un calcul.

Un client demandant une exception, un employé confronté à une situation difficile ou un fournisseur confronté à un problème inattendu peuvent nécessiter un contexte difficile à capturer dans un système prédéfini. Un modèle d’IA peut fournir des informations utiles, mais cela ne signifie pas nécessairement qu’il doit avoir l’autorité finale.

Ceci est particulièrement important lorsque des erreurs peuvent avoir des conséquences importantes.

Une mauvaise description de produit générée par l’IA peut être gênante. Une mauvaise décision concernant l'emploi, les finances, l'assurance, la sécurité ou l'accès à un service important d'une personne peut être considérablement plus grave.

Les entreprises doivent donc faire la distinction entre les décisions assistées par l’IA et les décisions contrôlées par l’IA.

Que se passe-t-il lorsque les entreprises suppriment trop d’humains ?

La tentation de remplacer les employés par l’IA est compréhensible. La main-d'œuvre est souvent l'une des dépenses les plus importantes d'une entreprise, tandis que les systèmes d'IA peuvent fonctionner en continu et gérer d'énormes volumes de travail.

Mais les employés apportent une valeur au-delà des tâches énumérées dans leurs descriptions de poste.

Ils remarquent un comportement inhabituel des clients. Ils reconnaissent quand un processus échoue. Ils établissent des relations avec les clients. Ils enseignent aux nouveaux employés. Ils font preuve de jugement lorsque la procédure standard ne fonctionne pas. Ils peuvent également fournir des connaissances institutionnelles difficiles à capturer dans une base de données.

Lorsqu’un trop grand nombre de personnes sont retirées d’une organisation, une partie de cette infrastructure invisible disparaît avec elles.

Une entreprise peut donc découvrir qu’elle a réduit sa masse salariale tout en augmentant le coût des erreurs, du désabonnement des clients, de la supervision et de la résolution des problèmes.

Les clients veulent toujours des humains lorsque les choses se compliquent

Il y a une autre considération importante : les clients ne veulent pas nécessairement qu’un humain soit impliqué dans tout.

Pour les tâches simples, ils préféreront peut-être un système automatisé car il est plus rapide. Vérifier l'état d'une commande, modifier un rendez-vous ou trouver des informations de base ne nécessite pas toujours une conversation avec un employé.

La préférence peut changer en cas de problème.

Un client contestant des frais, confronté à un produit défectueux ou confronté à un problème inhabituel peut avoir besoin de quelqu'un qui puisse écouter, comprendre les circonstances et porter un jugement.

Cela suggère un principe utile pour les entreprises :

Automatisez la commodité, mais préservez l’escalade humaine.

AI peut gérer la majorité courante tandis que les employés restent disponibles pour les exceptions, les litiges et les situations nécessitant de la discrétion.

L'IA devrait souvent être le copilote d'un employé, et non son remplaçant

L’une des approches les plus productives pourrait consister à utiliser l’IA pour accroître les capacités des employés existants plutôt que de traiter la technologie principalement comme un substitut à ces derniers.

Un vendeur pourrait utiliser l’IA pour rechercher des prospects et préparer des notes de réunion. Un représentant du service client pourrait l'utiliser pour trouver des informations pertinentes avant de répondre à une demande complexe. Un comptable pourrait utiliser l’IA pour organiser des documents et identifier les transactions inhabituelles en vue d’un examen plus approfondi.

Dans chaque cas, la technologie gère une partie de la charge de travail tandis que l’employé conserve la responsabilité de l’interaction ou de la décision finale.

Ce modèle peut produire un autre type de gain de productivité. Au lieu de demander : « Combien d’employés l’IA peut-elle éliminer ? » La direction peut se demander : « Que peut faire de plus chaque employé avec les bons outils d’IA ? »

Le sweet spot dépend de la tâche

Il n’existe pas de pourcentage universel de travail qu’une entreprise devrait automatiser.

Un éditeur de logiciels peut être en mesure d'automatiser une grande partie des tests, de la documentation et du codage de routine. Un restaurant peut utiliser l’IA pour la prévision et la planification des stocks, mais il dépend toujours fortement des personnes pour la cuisine, l’hospitalité et l’interaction avec les clients. Un cabinet de services professionnels peut automatiser la recherche et la préparation de documents tout en gardant des professionnels expérimentés responsables des conseils et des relations avec les clients.

L’équilibre approprié dépend de plusieurs facteurs :

  • Risque: Que se passe-t-il si l'IA se trompe ?
  • Complexité: La tâche peut-elle être standardisée de manière fiable ?
  • Valeur humaine : L'empathie, le jugement ou l'établissement de relations améliorent-ils sensiblement le résultat ?
  • Attentes des clients : Les clients apprécient-ils l’interaction humaine dans cette partie de l’expérience ?
  • Responsabilité: Qui est responsable lorsque le système fait une erreur ?
  • Réversibilité: Un humain peut-il facilement examiner ou corriger le résultat de l’IA ?

Plus une décision est lourde de conséquences et difficilement réversible, plus les arguments en faveur d’une surveillance humaine significative sont solides.

L'éthique de la transparence

Il y a aussi une question d'honnêteté.

Si un client croit communiquer avec un employé humain alors qu’il interagit en réalité avec un système d’IA, l’entreprise peut créer des attentes auxquelles la technologie ne peut pas répondre. Les entreprises doivent réfléchir au moment où elles doivent informer les clients que l’IA est impliquée, en particulier lorsque l’interaction concerne des décisions importantes ou des informations personnelles.

La transparence ne signifie pas nécessairement annoncer l’IA à chaque étape. Mais les clients ne doivent pas être délibérément induits en erreur sur qui ou quoi prend une décision importante en leur nom.

N'utilisez pas l'IA simplement parce que tout le monde l'est

Un autre problème éthique est la dépassement technologique.

Les entreprises adoptent parfois la technologie parce que leurs concurrents le font, que les investisseurs s’y attendent ou que la direction pense qu’elles prendront du retard sans elle. Cela peut amener les entreprises à introduire l’IA dans des processus qui fonctionnaient déjà bien.

Plus de technologie ne crée pas automatiquement plus de valeur.

Si un employé humain peut accomplir une tâche avec précision, rapidement et de manière économique, le remplacement de ce processus par un système d’IA complexe ne donnera que très peu d’effet. La technologie doit gagner sa place en résolvant un problème réel.

Une règle d'IA pratique pour les entreprises

Un point de départ utile consiste à diviser les activités commerciales en trois catégories.

  1. Automatiser: Utilisez largement l’IA pour des tâches répétitives, prévisibles et à faible risque pour lesquelles l’implication humaine ajoute peu de valeur.
  2. Augmenter: Utilisez l’IA aux côtés de vos employés lorsque la technologie peut améliorer la vitesse, la recherche ou la productivité, mais que le jugement humain reste important.
  3. Restez dirigé par l’humain : Préserver une implication humaine significative lorsque les décisions nécessitent de l’empathie, de la responsabilité, un jugement éthique, des négociations complexes ou des conséquences importantes.

Ce cadre n'est pas permanent. À mesure que les systèmes d’IA s’améliorent, certaines tâches peuvent passer d’être dirigées par l’homme à des tâches augmentées ou automatisées. Dans le même temps, les entreprises peuvent découvrir de nouveaux risques qui nécessitent une surveillance plus stricte.

La meilleure stratégie d’IA peut être délibérément inégale

Une stratégie d’IA mature ne signifie pas nécessairement mettre l’IA partout.

Cela peut signifier être hautement automatisé dans certaines parties de l’entreprise et délibérément humain dans d’autres. Une entreprise pourrait utiliser l’IA pour gérer la paperasse interne, prévoir la demande et répondre à des questions simples, tandis que ses relations clients les plus importantes restent profondément humaines.

Cette approche inégale peut en réalité constituer un avantage concurrentiel.

Lorsque les concurrents rivalisent principalement sur l'automatisation, une entreprise qui combine l'efficacité technologique avec une véritable attention humaine peut se différencier par les éléments de l'expérience que les clients ne peuvent pas facilement obtenir d'une machine.

IA contextuelle

Conclusion

La question n’est pas de savoir si les entreprises doivent utiliser l’IA. Pour de nombreuses entreprises, cette décision a déjà été prise. La question la plus importante est de savoir où l’IA crée de la valeur et où l’implication humaine crée encore plus de valeur.

Il est peu probable que le point idéal se trouve à l’un ou l’autre des extrêmes. Une entreprise qui refuse d’automatiser peut devenir inutilement coûteuse et lente. Une entreprise qui tente de tout automatiser peut découvrir qu’elle a éliminé une partie du jugement, des relations et de la responsabilité que les clients apprécient réellement.

L’approche la plus intelligente n’est donc pas l’IA maximale. Il s’agit d’une IA ciblée : utiliser des machines là où elles sont véritablement mieux adaptées à la tâche, utiliser des personnes là où le jugement humain compte et concevoir les deux pour qu’elles fonctionnent ensemble.

FAQ

Quelle quantité d’IA une entreprise doit-elle utiliser ?

Il n’existe pas de pourcentage universel qui fonctionne pour toutes les entreprises. Les entreprises doivent prendre en compte le risque, la complexité et la valeur humaine associés à chaque tâche et automatiser lorsque cela crée des avantages évidents.

Le remplacement des employés par l’IA peut-il se retourner contre vous ?

C’est possible si l’entreprise licencie les personnes qui apportent un jugement important, des relations clients, une surveillance ou des connaissances institutionnelles. La baisse des coûts de main-d'œuvre peut alors être compensée par des erreurs, un service médiocre, des clients perdus ou des difficultés à gérer des situations inhabituelles.

Quelles tâches commerciales sont les mieux adaptées à l’IA ?

Les activités répétitives, prévisibles et à risque relativement faible sont souvent de bons candidats pour l’IA. Les exemples incluent la synthèse, l'organisation des documents, les demandes de renseignements courantes des clients, l'analyse des données et certaines tâches administratives.

Les clients doivent-ils toujours savoir quand ils interagissent avec l’IA ?

Les entreprises doivent accorder une attention particulière à la transparence lorsque l’IA prend des décisions importantes ou gère des interactions sensibles. Les clients ne doivent pas être délibérément induits en erreur sur la nature d’une interaction ou sur la responsabilité d’une décision qui en découle.

Quel est le meilleur équilibre entre l’IA et les employés humains ?

Une approche pratique consiste à automatiser le travail de routine, à doter les employés de l'IA lorsque la technologie améliore leurs capacités et à conserver le leadership humain pour les décisions nécessitant du jugement, de l'empathie, de la responsabilité ou la résolution de problèmes complexes.

A lire également