Geoffrey Hinton, lauréat du prix Turing et pionnier de l’IA, a démissionné de son poste chez Google afin de parler plus ouvertement des dangers de l’intelligence artificielle, soulevant la question de savoir si les géants de la technologie ont fait taire les personnes les plus qualifiées pour informer le public des effets de la technologie émergente.
En 2012, Hinton et deux de ses étudiants, Ilya Sutskever et Alex Krishevsky, ont construit un réseau neuronal convolutif qui a révolutionné le domaine de la vision par ordinateur.
Plus tard cette année-là, Hinton, Sutskever et Krishevsky ont transformé leur technologie en une société, DNN Research, que Google a achetée aux enchères pour 66 millions de dollars (44 millions de dollars).
Maintenant, après plus d’une décennie avec Google, l’homme de 75 ans qui a été surnommé « le parrain de l’IA » quitte le géant de la technologie afin qu’il puisse parler librement sans que les dirigeants de Google ne lui soufflent dessus.
« Je suis parti pour pouvoir parler des dangers de l’IA sans tenir compte de l’impact de cela sur Google », a-t-il déclaré. tweeté lundi soir pour clarifier les implications faites dans un New York Times article qui a annoncé pour la première fois la nouvelle du départ de Hinton.
Geoffrey Hinton
Geoffrey HintonIA
Hinton a parlé avec le New York Times sur la façon dont la dernière aubaine de l’IA, déclenchée par la popularité soudaine et immense de ChatGPT, l’inquiète.
Les problèmes qui préoccupent Hinton vont de l’inondation d’Internet par des images, des vidéos et des textes générés par l’IA au point que les gens ne sauront plus « ce qui est vrai », aux impacts à grande échelle sur les emplois, et même à la menace de l’IA. acquérant des propriétés inattendues lorsqu’il commence à écrire et à exécuter son propre code.
« L’idée que ce truc pourrait en fait devenir plus intelligent que les gens – quelques personnes le croyaient », a-t-il déclaré. le New York Times.
«Mais la plupart des gens pensaient que c’était loin. Et je pensais que c’était loin. Je pensais que c’était dans 30 à 50 ans ou même plus. Évidemment, je ne pense plus à ça.
Hinton était une absence notable de la lettre ouverte appelant à un gel de six mois du développement de l’IA pour donner aux régulateurs le temps de se rattraper – une lettre avec de nombreux signataires qui adhèrent à l’étrange idéologie à long terme.
Mais avec son temps chez Google officiellement terminé, Hinton avertit publiquement que la course aux armements qui émerge entre les géants de la technologie pose des risques potentiellement invisibles pour l’humanité.
« Je ne pense pas qu’ils devraient intensifier cela jusqu’à ce qu’ils aient compris s’ils peuvent le contrôler », a-t-il déclaré.
L’arrivée de ChatGPT a envoyé des ondes de choc à travers Google dont les dirigeants ont vu le chatbot alimenté par l’IA comme une menace directe pour son produit de recherche lucratif.
Lorsque Microsoft a annoncé qu’il ajouterait l’IA à Bing, Google a rapidement emboîté le pas, au grand dam des actionnaires.
Le conflit entre les intérêts commerciaux et le développement éthique de l’IA dure depuis longtemps.
En 2020, Google a limogé l’éminente chercheuse en éthique de l’IA Timnit Gebru après avoir co-écrit un article qui présentait quatre principaux risques associés au développement de modèles de langage naturel comme ceux qui alimentent Bing, ChatGPT et Google Bard.
Ces préoccupations concernaient les coûts environnementaux, l’intégration de biais dans l’IA, la décision de créer des systèmes qui existent uniquement pour répondre aux besoins des entreprises et le potentiel de désinformation de masse.
Gebru a ensuite créé un institut d’éthique de l’IA et a co-écrit une réponse critique à la lettre de pause de l’IA aux côtés de l’éthicienne de l’IA Margaret Mitchell que Google a licenciée en 2021.
En réponse aux nouvelles concernant Hinton, Mitchell a publié un terrible avertissement que « les chercheurs les plus qualifiés au monde ne sont pas en mesure de dire ce que l’avenir pourrait réserver à l’IA parce qu’ils sont bâillonnés, implicitement/culturellement sinon directement censurés, par le profit à court terme ».
