Des images troublantes sont apparues cette semaine d’un jeu d’échecs robot se cassant le doigt d’un enfant de sept ans lors d’un tournoi en Russie.
Les commentaires publics sur cet événement mettent en évidence une certaine inquiétude dans la communauté face à l’utilisation croissante des robots dans notre société. Certaines personnes ont plaisanté sur les réseaux sociaux en disant que le robot était un « mauvais perdant » et avait un « mauvais caractère ».
Bien sûr, les robots ne peuvent pas réellement exprimer de véritables caractéristiques humaines telles que la colère (du moins, pas encore). Mais ces commentaires témoignent d’une préoccupation croissante de la part de la communauté face à « l’humanisation » des robots.
D’autres ont noté que c’était le début d’une révolution robotique – évoquant des images que beaucoup ont de robots de films populaires tels que RoboCop et Le Terminateur.
Bien que ces commentaires aient pu être faits en plaisantant et que certaines images de robots dans la culture populaire soient exagérées, ils mettent en évidence l’incertitude quant à ce à quoi ressemblera notre avenir avec les robots.
Nous devrions nous demander : sommes-nous prêts à faire face aux complexités morales et juridiques soulevées par l’interaction homme-robot ?
Interaction homme-robot
Beaucoup d’entre nous ont des formes de base d’intelligence artificielle dans leur maison. Par exemple, les aspirateurs robotiques sont des articles très populaires dans les maisons à travers l’Australie, nous aidant avec des tâches que nous préférerions ne pas faire nous-mêmes.
Mais à mesure que nous augmentons notre interaction avec les robots, nous devons tenir compte des dangers et des éléments inconnus dans le développement de cette technologie.
En examinant l’incident des échecs russes, nous pourrions nous demander pourquoi le robot a agi comme il l’a fait ? La réponse à cela est que les robots sont conçus pour fonctionner dans des situations de certitude. Ils ne gèrent pas bien les événements inattendus.
Ainsi, dans le cas de l’enfant avec le doigt cassé, les responsables des échecs russes déclaré l’incident s’est produit parce que l’enfant a « enfreint » les règles de sécurité en prenant son tour trop rapidement. Une explication de l’incident était que lorsque l’enfant bougeait rapidement, le robot interprétait par erreur le doigt de l’enfant comme une pièce d’échecs.
Quelle que soit la raison technique de l’action du robot, cela démontre qu’il existe des dangers particuliers à permettre aux robots d’interagir directement avec les humains. La communication humaine est complexe et nécessite une attention à la voix et au langage corporel. Les robots ne sont pas encore assez sophistiqués pour traiter ces signaux et agir de manière appropriée.
Que dit la loi sur les robots ?
Malgré les dangers de l’interaction homme-robot démontrés par l’incident des échecs, ces complexités n’ont pas encore été suffisamment prises en compte dans la législation et les politiques australiennes.
Une question juridique fondamentale est de savoir qui est responsable des actes d’un robot. La loi australienne sur la consommation définit des exigences strictes pour la sécurité des produits pour les marchandises vendues en Australie. Celles-ci incluent des dispositions relatives aux normes de sécurité, aux avertissements de sécurité et à la responsabilité du fabricant pour les défauts du produit. En utilisant ces lois, le fabricant du robot dans l’incident des échecs serait normalement responsable des dommages causés à l’enfant.
Cependant, nos lois sur les produits ne contiennent aucune disposition spécifique relative aux robots. Ceci est problématique car la loi australienne sur la consommation prévoit un la défense à la responsabilité. Cela pourrait être utilisé par les fabricants de robots pour échapper à leur responsabilité légale, car cela s’applique si
l’état des connaissances scientifiques ou techniques au moment de la fourniture du bien par son fabricant n’était pas de nature à permettre la découverte de ce défaut de sécurité.
Pour le dire simplement, le fabricant du robot pourrait faire valoir qu’il n’était pas au courant du défaut de sécurité et qu’il ne pouvait pas en avoir connaissance. On pourrait également faire valoir que le consommateur a utilisé le produit d’une manière non prévue. Par conséquent, je dirais que des lois plus spécifiques traitant directement des robots et d’autres technologies sont nécessaires en Australie.
Les organismes de réforme du droit ont fait du travail pour guider nos législateurs dans ce domaine. Par exemple, la Commission australienne des droits de l’homme a rendu une décision historique Rapport sur les droits de l’homme et la technologie en 2021. Le rapport recommandait au gouvernement australien de créer un commissaire à la sécurité de l’IA axé sur la promotion de la sécurité et la protection des droits de l’homme dans le développement et l’utilisation de l’IA en Australie. Le gouvernement n’a pas encore mis en œuvre cette recommandation, mais cela permettrait aux fabricants et fournisseurs de robots d’être tenus responsables.
Implications pour l’avenir
Les actes du robot d’échecs cette semaine ont démontré la nécessité d’une plus grande réglementation juridique de l’intelligence artificielle et de la robotique en Australie. Cela est d’autant plus vrai que les robots sont de plus en plus utilisés dans des environnements à haut risque tels que soins aux personnes âgées et d’aider les personnes ayant un invalidité. Des robots sexuels sont également disponibles en Australie et ont une apparence très humaine, ce qui soulève des préoccupations éthiques et juridiques quant à la Conséquences imprévues de leur utilisation.
L’utilisation de robots présente clairement certains avantages pour la société – ils peuvent augmenter l’efficacité, combler les pénuries de personnel et entreprendre des travaux dangereux en notre nom.
Mais cette question est complexe et nécessite une réponse complexe. Bien qu’un robot cassant le doigt d’un enfant puisse être considéré comme une occasion unique, il ne faut pas l’ignorer. Cet événement devrait amener nos régulateurs juridiques à mettre en œuvre des lois plus sophistiquées qui traitent directement des robots et de l’IA.
Cet article est republié de La conversation sous licence Creative Commons. Lis le article original.
