Tout dans la société peut sembler orienté vers l'optimisation, qu'il s'agisse de tests standardisés ou d'algorithmes d'intelligence artificielle. On nous apprend à savoir quel résultat vous souhaitez atteindre et à trouver le chemin pour y parvenir.
Kenneth Stanley, ancien chercheur d'OpenAI et co-fondateur d'une nouvelle plateforme de médias sociaux appelée Maven, prêche depuis des années que cette méthode de pensée est contre-productive, voire carrément nuisible. Au lieu de donner la priorité aux objectifs, Stanley dit que nous devrions donner la priorité au hasard.
« Parfois, afin de trouver les tremplins qui mèneront aux choses qui nous tiennent à cœur, nous devons nous éloigner du chemin de l'objectif et nous engager sur le chemin de l'intéressant », a déclaré Stanley à TechCrunch dans une interview vidéo. « Le hasard est le contraire de trouver quelque chose à travers des objectifs. »
L’idée de rechercher la nouveauté en soi est née d’un concept algorithmique que Stanley étudie et appelle l’ouverture, un sous-domaine de la recherche en IA sur les systèmes qui « continuent à produire des choses intéressantes pour toujours ».
« Les systèmes ouverts sont comme des systèmes artificiellement créatifs », a déclaré Stanley, soulignant que les humains, l'évolution et la civilisation sont également des systèmes ouverts qui continuent de se construire sur eux-mêmes de manière inattendue.
Cette vision algorithmique s'est transformée en une philosophie de vie pour Stanley. Il a même écrit un livre à ce sujet en 2015 avec son ancien doctorant Joel Lehman intitulé Pourquoi la grandeur ne peut pas être planifiée. Le concept a décollé, faisant de Stanley un point focal international pour l'idée audacieuse selon laquelle, en réalité, vous pouvez simplement faire des choses parce qu'elles sont intéressantes, plutôt que parce que vous devez atteindre un objectif déclaré.
Mais en 2022, alors qu'il dirigeait une équipe d'ouverture chez OpenAI, Stanley a déclaré qu'il « débordait de mécontentement » et « avait eu cette révélation » où il a décidé d'arrêter de parler d'amener l'ouverture à un public plus large et de commencer à faire quelque chose à ce sujet. .
Et si, se demandait-il, il créait un « réseau de hasard », un système mis en place pour augmenter la probabilité de hasard, pour que d'autres personnes puissent en profiter ?
Il a donc quitté son emploi et s'est lancé dans la création de Maven, un réseau social construit autour d'un algorithme d'IA ouvert qui évolue à la recherche de la nouveauté. Lors de leur inscription, les utilisateurs sélectionnent une série de sujets à suivre – des neurosciences à la parentalité – et l'algorithme leur montre les publications qui correspondent à leurs intérêts. Les algorithmes des réseaux sociaux d'aujourd'hui vous montrent également des choses que vous pourriez trouver intéressantes, mais la différence est qu'ils sont optimisés pour maximiser l'engagement des utilisateurs, souvent en renforçant le contenu sensationnaliste, afin de créer plus d'impressions publicitaires et de revenus. Maven, en revanche, ne vous montre pas seulement les articles les plus populaires sur des sujets que vous trouvez intéressants. L'algorithme vous montre les publications en fonction de la probabilité que vous les trouviez attrayantes.
Peut-être le plus révolutionnaire, Maven supprime la configuration actuelle des médias sociaux : il n'y a pas de likes, de votes positifs, de retweets ou de suivis, et il n'y a aucun moyen d'amplifier le contenu auprès des masses.
Au lieu de cela, lorsqu'un utilisateur publie quelque chose, l'algorithme lit automatiquement le contenu et le marque avec des intérêts pertinents afin qu'il apparaisse sur ces pages. Les utilisateurs peuvent augmenter le curseur de hasard pour aller au-delà de leurs intérêts déclarés, et l'algorithme qui exécute la plate-forme connecte les utilisateurs ayant des intérêts connexes. Ainsi, si, par exemple, vous suivez des conversations sur l'urbanisme, Maven peut également vous suggérer des conversations sur les transports en commun.
Et bien qu'il n'y ait aucun moyen de suivre des personnes sur la plateforme, vous pouvez voir et vous connecter avec d'autres personnes qui suivent des sujets qui vous intéressent.
À bien des égards, Maven apparaît comme un antidote aux médias sociaux d'aujourd'hui, où le « paradoxe objectif est pleinement visible » alors que les gens se précipitent pour créer du contenu sensationnaliste qui attirera plus d'attention et de popularité.
« Les chambres d'écho et la toxicité, l'amplification du narcissisme et l'image de marque personnelle sont devenues totalement incontrôlables, de sorte que les gens perdent leur âme et se transforment en marques », a déclaré Stanley.
Les qualités addictives des médias sociaux, les effets néfastes sur la santé mentale des adolescents et des adultes et leur capacité à polariser les nations sont bien documentés. Selon Stanley, ce sont les conséquences involontaires d’objectifs ambitieux, le résultat du fait que la popularité est un indicateur de qualité.
« Et puis vous obtenez toutes ces autres choses parce qu'une fois que vous avez de la popularité, vous avez des incitations perverses », a-t-il déclaré.
Stanley a noté que les utilisateurs de Maven peuvent signaler un contenu inapproprié ou des informations erronées lorsqu'ils apparaissent, et que son IA surveille activement les contenus hautement incendiaires, offensants « ou pire ». Il a déclaré que Maven ne pouvait pas remédier à la méchanceté de la nature humaine, mais qu'en éliminant les incitations au partage de tels contenus, Stanley espère que cela pourrait changer la « dynamique globale globale de la façon dont les gens se comportent ».
Certaines sociétés de médias sociaux ont tenté de lutter contre de telles incitations dans le passé. En 2019, Instagram a testé la dissimulation des likes pour freiner les comparaisons et blesser les sentiments liés à la popularité du contenu. X, anciennement Twitter, se prépare également à rendre les likes privés, mais pour des raisons moins saines. Dans une ligne de pensée très inspirée d'Elon Musk, l'objectif de X est de créer plus d'engagement en permettant aux gens d'aimer en privé du contenu « audacieux » qu'ils n'aimeraient pas autrement pour protéger leur image publique.
Maven s'intéresse moins à connecter les utilisateurs avec le public et se concentre davantage sur leur connexion avec ce qui est intéressant.
Le problème de la monétisation
Stanley et ses co-fondateurs – Blas Moros et Jimmy Secretan – ont lancé Maven en douceur fin janvier. La plate-forme a fait ses débuts publiquement en mai aux côtés d'une fonctionnalité Wired qui, selon Stanley, a donné à Maven une place parmi les plus tendances sur Product Hunt et a généré des milliers d'inscriptions.
Il s’agit encore d’un petit nombre par rapport aux autres nouveaux entrants dans l’espace des médias sociaux. Bluesky, lancé en 2021, compte 5,6 millions d'inscriptions. En janvier 2024, Mastodon comptait 1,8 million d'utilisateurs actifs. Farcaster, un nouveau protocole social basé sur la cryptographie qui vient de lever 150 millions de dollars, a dénombré environ 350 000 inscriptions. Tous ces nouveaux réseaux devront se développer de manière significative s’ils veulent être considérés comme couronnés de succès.
La question reste ouverte de savoir si Maven sera capable d'élargir sa base d'utilisateurs sans les qualités très toxiques que nous aimons détester, mais qui nous ramènent néanmoins dans le cloaque que sont les médias sociaux.
Maven a levé 2 millions de dollars en 2023 lors d'un cycle dirigé par le co-fondateur de Twitter, Ev Williams, a déclaré Stanley à TechCrunch. Sam Altman, PDG d'OpenAI, a également participé au cycle. Stanley a déclaré que Williams et Altman avaient investi parce que, comme beaucoup d'entre nous qui sont devenus attachés à la philosophie presque trop douce pour ce monde de Maven, ils pensent que le monde et Internet ont besoin de quelque chose comme ça.
Et en effet, l'espoir idéaliste de Maven de connecter les gens à des idées intéressantes est une bouffée d'air frais qui sent bon le début des années 2000, quand Internet était un lieu de connexion et d'exploration. Les sentiments des premiers utilisateurs de la plateforme sont pour la plupart positifs et optimistes, car beaucoup sont venus sur la plateforme pour des interactions authentiques et fortuites et pour l'absence promise de toxicité.
Mais l’idéalisme suffira-t-il à attirer davantage d’investisseurs institutionnels plus tard, lorsque Maven voudra se développer ?
« Je pense que le défi auquel nous sommes confrontés est qu'à l'avenir, cela deviendra un moyen de plus en plus difficile de collecter des fonds », a déclaré Stanley, soulignant que les investisseurs ne jetteront pas des millions à moins qu'il n'y ait un chemin clair pour obtenir un retour sur investissement.
« J'ai juste besoin de trouver les bons investisseurs pour aller de l'avant et parvenir rapidement à un modèle économique durable », a-t-il poursuivi, réfléchissant à l'idée d'un modèle d'abonnement qui permettrait à Maven de garder son idéologie intacte.
Il existe bien sûr d’autres moyens pour Maven de générer des revenus. La publicité est une voie, mais qui séduit moins Stanley en raison de son lien avec la viralité et le sensationnalisme.
En fin de compte, Maven pourrait également potentiellement vendre ses données à des sociétés comme OpenAI qui entraînent leurs algorithmes sur des quantités de données. OpenAI a signé plus tôt ce mois-ci un accord avec Reddit pour former son IA sur les données de la société de médias sociaux. Et la proposition de valeur de Maven du point de vue de l'IA ne réside pas seulement dans le contenu de la plate-forme : c'est aussi l'algorithme ouvert qui l'exécute.
Stanley a déclaré à TechCrunch qu'il pensait que l'ouverture était essentielle à l'intelligence artificielle générale (AGI), un type d'IA qui vise à égaler ou dépasser les capacités humaines dans une gamme de tâches cognitives. L’ouverture est « un aspect si important de l’intelligence », a déclaré Stanley. « C'est comme cet aspect créatif et motivé par la curiosité de l'être humain. »
« Les données sont intéressantes du point de vue de l'IA, car il s'agit de données sur ce qui est intéressant », a déclaré Stanley, soulignant que les modèles d'IA actuels manquent de compréhension intuitive de ce qui est intéressant et de ce qui ne l'est pas, et de la façon dont cela peut changer au fil du temps. Cependant, même si les données ont une valeur potentielle pour l'IA, Stanley a déclaré que Maven n'avait conclu aucun accord avec une entreprise pour accorder l'accès à ces données.
Et même s'il a déclaré qu'il n'excluait pas cette possibilité à l'avenir, il réfléchirait très attentivement aux implications du partage de telles données.
« Ce n'est pas le but pour moi », a-t-il déclaré, notant qu'il n'est pas convaincu que ce serait une bonne chose que les réseaux de neurones soient complètement ouverts, car cela pourrait rendre complètement inutile tout effort créatif de la part des humains.
«Je voulais vraiment créer cette communauté fortuite mondiale», a-t-il déclaré. « Ce n'est pas comme si j'avais l'intention d'utiliser Maven pour créer une IA ouverte ou quelque chose du genre. Je voulais juste créer quelque chose pour les gens parce que j'ai commencé à avoir l'impression que tout le monde allait parler de plus en plus aux chatbots et que nous allions être de moins en moins connectés avec les autres. Et j’y contribuais en tant que chercheur en IA.
« Il y a quelque chose dans cette idée de réseau de hasard qui m'a fait me sentir moralement mieux, comme si je pouvais réellement contribuer à ce que les gens soient plus connectés plutôt que moins. »
