Texte traduit de la page du Bruce Schneier Blog ‘Seeing Like a Data Structure’, basé sur l’essai rédigé avec Barath Raghavan et a été initialement publié sur le site Web du Harvard Kennedy School Belfer Center . Page et lien en Français traduit par Google Translate.
Autrefois, la technologie n’était qu’un simple outil — et petit en plus — utilisé pour amplifier les intentions et les capacités humaines . C’était l’histoire de la révolution industrielle : nous pouvions contrôler la nature et construire des sociétés humaines vastes et complexes, et plus nous utilisions et maîtrisions la technologie, plus les choses s’amélioraient. Nous ne vivons plus dans ce monde-là. Non seulement la technologie est devenue imbriquée dans la structure de la société, mais nous ne pouvons plus voir le monde qui nous entoure sans elle. La séparation a disparu et le contrôle que nous pensions avoir autrefois s’est révélé n’être qu’un mirage. Nous sommes actuellement dans une période de transition de l’histoire.
Nous nous racontons chaque jour des histoires sur la technologie et la société. Ces histoires façonnent la façon dont nous utilisons et développons les nouvelles technologies ainsi que les nouvelles histoires et utilisations qui en découleront. Ils déterminent qui est aux commandes, à qui profite, qui est à blâmer et ce que tout cela signifie.
Certaines personnes sont enthousiasmées par les technologies émergentes sur le point de refaire la société. D’autres espèrent que nous considérerons cela comme une folie et adopterons des modes de vie plus simples et moins centrés sur la technologie. Et beaucoup ont le sentiment de ne pas comprendre ce qui se passe et encore moins d’avoir leur mot à dire.
Mais nous n’avons jamais eu un contrôle total sur la technologie, et il n’existe pas non plus d’âge d’or prétechnologique auquel nous puissions revenir. La vérité est que notre façon de voir le monde centrée sur les données ne nous sert pas bien. Nous devons trouver une troisième option. Pour ce faire, nous devons d’abord comprendre comment nous en sommes arrivés là.
Abstraction
Lorsque nous qualifions quelque chose d’abstrait, nous entendons qu’il est éloigné de la réalité : conceptuel et non matériel, lointain et non rapproché. Que se passe-t-il lorsque nous vivons dans un monde entièrement construit à partir de l’abstrait ? Un monde dans lequel nous ne nous soucions plus de la réalité désordonnée, contingente, nébuleuse, brute et ambiguë qui a défini l’humanité pendant la majeure partie de l’existence de notre espèce ? Nous sommes sur le point de le découvrir, alors que nous commençons à voir le monde à travers le prisme des structures de données.
Il y a vingt ans, dans son livre Seeing Like a State , l’anthropologue James C. Scott explorait ce qui se produit lorsque les gouvernements, ou ceux qui détiennent l’autorité, tentent et échouent à « améliorer la condition humaine ». Scott a découvert que pour comprendre les sociétés et les écosystèmes, les fonctionnaires du gouvernement et leurs équivalents du secteur privé réduisaient la réalité désordonnée à des simplifications idéalisées, abstraites et quantifiées qui rendaient le désordre plus « lisible » pour eux. Cette lisibilité a donné naissance à la capacité d’évaluer puis d’imposer de nouveaux arrangements sociaux, économiques et écologiques de haut en bas : des communautés de personnes sont devenues des citoyens imposables, une forêt primitive et enchevêtrée est devenue une exploitation forestière en monoculture, et une ville prémoderne alambiquée est devenue une société enrégimentée. ville industrielle.
Ce type d’abstraction était apparemment nécessaire pour créer le monde qui nous entoure aujourd’hui. Il est difficile de gérer une grande organisation, sans parler d’une société mondiale interconnectée de huit milliards de personnes, sans une sorte de structure et de moyens pour faire abstraction des détails. La facilité avec l’abstraction et le raisonnement abstrait a permis toutes sortes de progrès dans les domaines de la science, de la technologie, de l’ingénierie et des mathématiques — les domaines mêmes dont on nous dit constamment qu’ils sont les plus demandés.
La carte n’est pas le territoire, et aucune intellectualisation ne le fera. Créer des représentations abstraites laisse nécessairement de côté des détails et un contexte importants . Inévitablement, comme l’a souligné Scott, l’utilisation d’abstractions à grande échelle échoue, laissant les dirigeants perplexes face à l’échec et la situation des gens ordinaires dans une pire situation. Mais notre désir d’abstraction n’a jamais disparu et la technologie, comme toujours, sert à amplifier l’intention et la capacité. Maintenant, nous manifestons cette abstraction avec un logiciel. L’informatique dynamise l’utilisation créative et pratique de l’abstraction. Voilà à quoi ressemble la vie lorsque nous voyons le monde de la même manière qu’une structure de données voit le monde. Ce sont les mêmes astuces que Scott a documentées. Ce qui a changé, c’est leur rapidité et leur ubiquité.
Chaque année, de plus en plus d’étudiants affluent vers l’informatique, un domaine offrant certains des emplois les mieux rémunérés et les plus recherchés. Le programme de presque toutes les universités présente immédiatement à ces étudiants les structures de données. Une structure de données permet à un programmeur d’organiser les données (sur n’importe quoi) d’une manière facile à comprendre et à utiliser dans un logiciel : pour trier, rechercher, structurer, organiser ou combiner ces données. Un cours sur les structures de données est un exercice après l’autre sur la construction et la manipulation d’abstractions, celles qui sont généralement entièrement séparées des données désordonnées et chargées de contexte du monde réel que ces structures de données seront utilisées pour stocker.
À mesure que les étudiants obtiennent leur diplôme, la plupart rejoignent des entreprises qui exigent ces compétences techniques — universellement considérées comme essentielles au travail en informatique — et qui se considèrent comme « changer le monde », souvent avec des ambitions encore plus grandes que les objectifs prosaïques des fonctionnaires d’État catalogués par Scott.
Les ingénieurs transforment les données sur le monde qui nous entoure en structures de données, à grande échelle. Ils emploient alors une autre astuce informatique : l’indirection. Il s’agit de la capacité de briser un processus sociotechnique — de « perturber » — et de remplacer chacune des pièces désormais brisées par des abstractions qui peuvent interagir les unes avec les autres. Ces structures de données et abstractions sont ensuite combinées dans des logiciels pour agir sur cette vision de la réalité, action qui revêt de plus en plus une dimension humaine et sociétale.
Voici un exemple. Lorsque la pandémie a commencé et que les commandes de livraison ont grimpé en flèche, les technologues ont vu une opportunité : les cuisines fantômes . Le restaurant auprès duquel un client commandait n’avait plus besoin d’exister. Tout ce qui comptait, c’était que le menu en ligne réponde aux désirs des clients. Une fois commandée, la nourriture devait d’une manière ou d’une autre être achetée, cuite et emballée, sans être vue, et livrée à la porte du client. Aujourd’hui, de nombreux endroits où nous commandons de la nourriture sont soumis à cette abstraction et à cette indirection, qui ressemblent davantage à la chaîne d’approvisionnement d’Amazon qu’à un restaurant local d’autrefois.
Facebook considère ses utilisateurs comme une structure de données lorsqu’il nous classe dans des catégories d’intérêt toujours plus précises, afin de mieux vendre notre attention aux annonceurs. Spotify nous considère comme une structure de données lorsqu’il essaie de jouer de la musique qu’il pense que nous aimerons en fonction des goûts des personnes qui aiment une partie de la même musique que nous aimons. Les utilisateurs de TikTok s’exclament et se plaignent souvent du fait que ses recommandations semblent étrangement exploiter des désirs et des intérêts latents, ce qui conduit beaucoup à effectuer un autodiagnostic psychologique à l’aide de leur page « Pour vous ».
Les structures de données dominent notre monde et sont un sous-produit de l’ère rationnelle et moderne, mais elles ouvrent la voie à une ère de chaos. Nous devons accepter et apprivoiser ce chaos, mais pas l’éteindre, pour créer un monde meilleur.
Machines
L’historien de la technologie Lewis Mumford a écrit un jour que les horloges permettaient la division du temps, ce qui permettait l’enrégimentation de la société qui a rendu possible la révolution industrielle. Cette transformation, pleinement en marche dans le monde entier au XXe siècle, a fondamentalement changé l’histoire de la société. Cela nous a fait passer d’une société centrée sur la dynamique interpersonnelle et les interactions communautaires vers une société systématique et institutionnelle.
Nous avions l’habitude de comprendre le monde et de l’interpréter à travers des yeux humains. Le monde d’avant la révolution industrielle n’était pas un monde dans lequel les gens ordinaires interagissaient avec des institutions ou des systèmes sociotechniques à grande échelle. Il n’était pas possible pour quelqu’un d’être un « homme d’entreprise » avant qu’il n’existe une manière d’agir en entreprise qui, en théorie, dépendait uniquement de règles, de lois, de méthodes et de principes, et non des vicissitudes du comportement humain.
Depuis le début de la révolution industrielle, les travailleurs et le monde naturel sont soumis à l’abstraction. Cela implique le recours à la raison abstraite plutôt qu’aux préférences sociales. La connaissance du monde n’était plus dans nos têtes mais dans le monde. Nous avons donc reçu des journaux, des manuels d’instructions, des statuts et des revues académiques. Et soyons clairs : il s’agit là d’une amélioration dans une large mesure. L’ère des systèmes — de la modernité — était une amélioration par rapport à ce qui l’avait précédée. Il vaut mieux que la société ait des lois plutôt que des dirigeants, et mieux vaut s’appuyer sur la science plutôt que sur la superstition . Nous ne pouvons et ne devons pas y retourner.
Les outils de la raison ont permis aux « grands modernistes », comme les appelle Scott, d’envisager un monde entièrement façonné par la raison. Mais une telle raison n’était et n’est jamais exempte de préjugés personnels. Il néglige toujours le désordre de la réalité ainsi que les connaissances et compétences tacites et contextuelles nécessaires pour faire face à ce désordre — et c’est là que les problèmes ont commencé à surgir.
Les travailleurs étaient et sont traités comme des rouages de la machine industrielle, remplissant un rôle restreint sur une chaîne de montage ou effectuant un travail de service dans des paramètres restreints. La nature est traitée comme une ressource à l’usage de l’homme, un entrepôt quasi infini de matériaux et un dépotoir de déchets. Même quelque chose d’aussi essentiel et fondamental que l’agriculture est considéré comme mécaniste — « une ferme est une usine dans une région éloignée », comme l’a dit un dirigeant de John Deere — où les plantes sont des machines qui absorbent de l’azote, du phosphore et du potassium et produisent des produits à peine comestibles. maïs denté. Il existe même un mythe populaire selon lequel l’éminent théoricien des affaires WE Deming a déclaré : « Si vous ne pouvez pas le mesurer, vous ne pouvez pas le gérer », ce qui donne du crédit à la mentalité de mesure et d’optimisation.
Les abstractions s’écrivent presque toutes seules. Cependant, ne laissant rien au hasard, les entrepreneurs et leurs bailleurs de fonds se sont précipités pour traduire ces abstractions préinformatiques à l’ère des structures de données. Cela se produit de manière visible et invisible. Uber et Lyft ont transformé les gens en robots conducteurs qui suivent des conseils algorithmiques d’un endroit à un autre. Amazon a obligé les employés d’entrepôt à effectuer des tâches précisément définies de concert avec de véritables robots. Les entreprises Agtech transforment les fermes en structures de données pour ensuite optimiser l’application d’engrais, d’eau d’irrigation, de pesticides et d’herbicides.
Au-delà de la simple division du temps, le calcul a permis la division de l’information. Cela s’incarne aux niveaux les plus bas — les bits et les paquets de données circulant sur Internet — jusqu’aux niveaux les plus élevés, où de nombreux emplois peuvent être décrits comme un ensemble de tâches de traitement de l’information effectuées par un seul travailleur et transmises à d’autres. à un autre. Mais ce type d’informatique — qui ne sont que des techniques d’optimisation dépassées qui remontent au taylorisme du siècle dernier — ne nous a pas fait entrer dans le monde instable dans lequel nous vivons aujourd’hui. C’était un type de calcul différent qui faisait cela.
Calcul
Aujourd’hui, nous vivons à une époque où l’informatique non seulement fait abstraction de notre monde, mais définit également nos mondes intérieurs : les pensées mêmes que nous avons et les façons dont nous communiquons.
C’est cette réalité abstraite qui nous est présentée lorsque nous ouvrons une carte sur nos téléphones, recherchons sur Internet ou « interagissons » sur les réseaux sociaux. C’est cette réalité construite qui façonne les décisions que les entreprises prennent chaque jour, régit les marchés financiers, influence la stratégie géopolitique et contrôle de plus en plus le fonctionnement de la société mondiale. C’est cette réalité synthétisée que nous consommons lorsque les réponses que nous cherchons sur le monde sont les écrits entiers de l’humanité mis dans un mixeur et filtrés par un grand modèle linguistique.
La première vague de ce type a atteint son sommet il y a dix ans pour s’abattre sur nous. À l’époque, les moteurs de recherche représentaient de facto la réalité, et « il suffit de chercher sur Google » est devenu un dicton : tout ce que disait le moteur de recherche était juste. Mais dans un certain sens, il s’agissait d’un vestige de l’ère « moderne » précédente, mais avec une grande structure de données — la vaste base de données du moteur de recherche — remplaçant une source de vérité classique comme les médias ou le gouvernement. Nous avions tous l’espoir qu’avec suffisamment de données et d’algorithmes pour tout passer au crible, nous pourrions avoir une simple abstraction technologique sur le désordre de la réalité avec une réponse cohérente quelle que soit la question.
À mesure que nous nous dirigeons vers l’avenir promis par certains technologues, notre vision humaine du monde et celle des structures de données intégrées dans nos appareils informatiques convergeront. Pourquoi s’embêter à créer un produit alors que vous pouvez simplement générer de manière algorithmique des milliers de « produits fantômes », dans l’espoir que quelqu’un les achètera.
Les critiques de Scott à l’égard de la datafication demeurent. Nous sommes de plus en plus conscients que les choses sont des spectres continus et non des catégories distinctes. Écrivant sur l’échec des applications de recherche de contacts, le militant Cory Doctorow a déclaré : « Nous ne pouvons pas ajouter, soustraire, multiplier ou diviser des éléments qualitatifs, alors nous les incinérons simplement, balayons les résidus quantitatifs douteux qui restent, faisons des calculs là-dessus, et affirmez simplement que rien d’important n’a été perdu dans le processus.
Une paire de lunettes de réalité augmentée ne nous permettra peut-être plus de voir le monde sans être filtré par des structures de données, mais plutôt de disséquer et de catégoriser chaque expérience. Une personne dans la rue n’est plus un individu mais un membre d’une sous-catégorie de « personne » déterminée par un classificateur IA. Une rue n’est plus l’endroit où vous avez grandi mais une abstraction d’une carte. Et un café local n’est plus un lieu de rencontre communautaire mais une structure de données contenant un menu, une liste d’options de réservation et une centaine de notes 5 étoiles.
Qu’il s’agisse de lunettes à travers lesquelles nous regardons ou simplement d’écrans sur nos appareils, la réalité sera augmentée par les structures de données qui catégorisent le monde qui nous entoure. Tout comme les moteurs de recherche ont provoqué l’essor du référencement, où les écrivains modifient leur écriture pour attirer les moteurs de recherche plutôt que les lecteurs humains, cette réalité augmentée entraînera ses propres optimisations. Nous en voyons peut-être les premiers signes avec « Thai Food Near Me » comme nom littéral des entreprises qui tentent de satisfaire la fonction de recherche des applications de cartographie. Bientôt, même la forme physique des choses dans le monde pourra être déterminée dans une coévolution avec la technologie, où la forme des choses dans le monde réel, même un plat dans un restaurant, sera choisie en fonction de ce qui sera le plus beau vu à travers nos filtres technologiques. . C’est une couche de données au-dessus de la réalité. Et les problèmes s’aggravent lorsque l’importance relative des données et de la réalité s’inverse. Est-il plus important de donner un meilleur goût à la nourriture d’un restaurant, ou simplement de la rendre plus instagrammable ?
Les gens travaillent déjà à exploiter les structures de données et les algorithmes qui régissent notre monde. Les conducteurs d’Amazon suspendent leurs smartphones dans les arbres pour tromper le système. Les auteurs-compositeurs placent leurs refrains accrocheurs dès le début pour exploiter les algorithmes de Spotify. Et les podcasteurs prononcent délibérément mal les mots parce que les gens commentent avec des corrections et que ces commentaires comptent comme un « engagement » envers les algorithmes.
Ces hacks concernent fondamentalement l’effondrement du « système ». (Nous ne suggérons pas qu’il existe un système unique qui gouverne la société, mais plutôt un fouillis de systèmes qui interagissent et se chevauchent dans nos vies et sont plus ou moins pertinents dans des contextes particuliers.) Les systèmes fonctionnent selon des règles, qu’elles soient établies consciemment par les gens. ou, de plus en plus, automatiquement déterminé par des structures de données et des algorithmes. Mais les systèmes de règles tentent, de par leur nature, de créer une carte d’un territoire en désordre, et les règles comporteront toujours des failles dont on pourra tirer parti.
Le défi des générations technologiques précédentes — et des ingénieurs qui les ont construites — est qu’ils sont restés coincés dans la rigidité des systèmes. C’est ce qu’était l’homme d’entreprise : les processus de l’entreprise, le taylorisme, la méthode McKinsey, le développement de logiciels Scrum, l’altruisme efficace et bien d’autres encore. Tout cela promettait certitude, contrôle, optimalité, justesse et parfois même vertu : autant de manifestations d’une manière rigide et « rationnelle » de penser et de résoudre les problèmes. Faire fonctionner les systèmes de cette manière au niveau sociétal a échoué. C’est ce que disait Scott dans son livre fondateur. C’était toujours voué à l’échec.
Fissures
Voir comme un État était avant tout une question de « lisibilité ». Mais le monde est trop difficile à rendre lisible aujourd’hui. C’est là qu’interviennent les structures de données, les algorithmes et l’IA : les humains n’ont plus besoin de créer manuellement la lisibilité. Les humains n’ont même pas besoin de consommer ce qui est rendu lisible. Les données brutes sur le monde peuvent être intégrées à de nouveaux outils d’IA pour créer un semblant de lisibilité. Nous pourrons alors faire en sorte que davantage d’outils automatisés agissent sur cette prétendue représentation du monde, avec bientôt des conséquences réelles. Nous déléguons désormais le processus de création de lisibilité à la technologie. Chemin faisant, nous l’avons rendu approximatif : lisible pour quelqu’un ou quelque chose d’autre mais pas pour celui qui en est réellement responsable.
À l’heure actuelle, nous vivons les dernières tentatives visant à faire fonctionner ces systèmes, avec un espoir peut-être naïf et une nouvelle croyance dans l’IA et la science des données qui l’alimente. L’espoir est que, parce que nous disposons de meilleurs algorithmes qui peuvent nous aider à donner un sens à encore plus de données, nous pourrons d’une manière ou d’une autre réussir à faire fonctionner les systèmes là où les sociétés du passé ont échoué. Mais cela ne fonctionnera pas parce que c’est le mode de pensée qui ne fonctionne pas.
Le pouvoir de voir comme un État était enivrant pour les planificateurs gouvernementaux, les experts en efficacité des entreprises et les adeptes du modernisme en général. Mais la technologie moderne nous permet à tous de voir la situation comme un État. Et avec l’avènement de l’IA, nous avons tous le pouvoir d’agir en fonction de cette vision.
L’IA est constituée de structures de données qui permettent de cartographier la réalité multidimensionnelle désordonnée dans laquelle nous vivons vers des catégories et des modèles utiles d’une manière ou d’une autre. Spotify a beau organiser les chansons en nouveaux genres musicaux intelligents inventés par son IA, il s’agit toujours d’un effort pour créer une lisibilité à partir de rien. Nous envoyons des emails détaillés avec des outils d’IA qui seront simplement résumés par une autre IA. Ce ne sont que des concepts, qu’ils soient créés par un esprit humain, par une structure de données ou par un outil d’IA. Et même si les concepts nous aident à comprendre la réalité, ils ne constituent pas la réalité elle-même.
Le problème auquel nous sommes confrontés est à la fois simple à expliquer et extrêmement difficile à résoudre. C’est l’interaction de la nébulosité et des modèles , comme le dit l’érudit David Chapman : la réalité est nébuleuse (désordonnée), mais pour continuer notre vie, nous voyons des modèles (leur donnons un sens en fonction du contexte). En général, en tant que personnes, nous n’avons pas de règles strictes sur la façon de préparer le petit-déjeuner, et nous n’avons pas besoin de nous expliquer la tâche lorsqu’un ami nous demande une tasse de café. Mais ce n’est pas le cas d’un ordinateur, d’un robot, ou même d’un service de restauration d’entreprise, qui ne peuvent pas naviguer dans les subtilités et les incertitudes du monde réel avec la flexibilité que nous attendons d’une personne. Et à une échelle encore plus grande, nos systèmes sociétaux, qu’il s’agisse de lois et de gouvernements ou simplement de la manière dont nos employeurs attendent de nous que nous accomplissions notre travail, n’ont pas cette flexibilité intégrée. Nous avons vu à plusieurs reprises comment diviser les opérations des entreprises ou des gouvernements en milliers de contrats disparates et rigides se solde par un échec .
Il y a des décennies, les failles de ces systèmes rationnels n’étaient visibles que par quelques-uns, laissées au débat dans les couloirs des universités, des conseils d’administration et des militaires. Désormais, la nébulosité, la complexité et l’effondrement de ces systèmes sont omniprésents, à la vue de tous. Lorsque les adolescents s’entraînent à voir le monde comme le font les algorithmes de classement des médias sociaux et peuvent remarquer un changement en temps réel, c’est ainsi que nous savons que les fissures sont omniprésentes.
La complexité de la société actuelle et l’incapacité des systèmes rigides à y faire face font peur à beaucoup. Personne n’est responsable, ni ne peut même comprendre, de tous ces systèmes technologiques complexes qui dirigent aujourd’hui notre société mondiale. Comme le dit l’universitaire Brian Klaas , « les raccourcis cognitifs que nous utilisons pour survivre ne correspondent pas à la réalité complexe dans laquelle nous évoluons actuellement ». Pour certains, cette menace exige une action drastique, comme le remplacement d’un grand système actuel — par exemple le capitalisme — par un autre moyen d’organiser la société. Pour d’autres, cela nécessite d’abandonner toute la modernité pour revenir à un âge d’or mythique et plus simple : un âge avec des systèmes d’ordre et d’autorité plus humains, qu’ils imaginent être en quelque sorte meilleur. Et d’autres encore voient les fissures du système mais espèrent qu’avec plus de données et plus d’ajustements, il pourra être réparé et nos problèmes seront définitivement résolus.
Cependant, ce n’est pas ce système particulier qui a échoué mais plutôt le mode de société qui dépend de systèmes rigides pour fonctionner. Remplacer un système rigide par un autre ne fonctionnera pas. Il n’y a certainement pas d’âge d’or vers lequel revenir. Et les formes de société plus simples ne sont pas des options pour nous à l’échelle de l’humanité d’aujourd’hui. Alors, où en sommes-nous?
Tension
La capacité de voir comme une structure de données nous a offert la technologie dont nous disposons aujourd’hui. Mais il a été construit pour et au sein d’un ensemble de systèmes sociétaux — et d’histoires — qui ne peuvent pas faire face à la nébulosité. Pire encore, c’est l’ère de transition dans laquelle nous sommes entrés, dans laquelle une complexité écrasante conduit de plus en plus de gens à ne croire en rien. C’est là que réside la folie. Voir est un choix, et nous devons nous réapproprier ce choix. Cependant, nous devons voir et faire les choses différemment, et construire des systèmes sociotechniques qui incarnent cette différence.
Ceci est mieux vu à travers un petit exemple. Dans notre travail, nous sommes nombreux à être confrontés à des dynamiques interpersonnelles qui dépassent parfois les règles. Les règles sont toujours là — celles que l’entreprise applique et les lois qu’elle suit — ce qui signifie qu’il y a des limites à la façon dont ces dynamiques interpersonnelles peuvent se dérouler. Mais ces règles sont rigides et bureaucratiques, et la plupart du temps elles n’ont aucun rapport avec ce à quoi vous faites face. Les gens apprennent à respecter et contourner les règles plutôt que de les suivre à la lettre. Certains d’entre eux peuvent être des piratages délibérés, connus et transmis par les employés d’une organisation. Une grève du zèle, ou d’ailleurs un démission discret, est efficace pour ralentir l’arrêt d’une entreprise, car le travail n’est jamais aussi routinier que les horaires, les processus, les principes de leadership ou toute autre règle codifiée pourraient le laisser croire à la direction.
La tension à laquelle nous sommes confrontés est qu’au quotidien, nous souhaitons que les choses soient simples et certaines. Mais cela signifie ignorer le désordre de la réalité. Et lorsque nous déléguons cette simplicité et cette certitude aux systèmes — soit aux institutions, soit de plus en plus aux logiciels — ils nous semblent impersonnels et oppressants. Les gens disaient qu’ils avaient l’impression que les grandes institutions les traitaient comme des numéros. Depuis des décennies, nous sommes littéralement des numéros dans les structures de données des gouvernements et des entreprises.
Panne
Comme l’a écrit l’historienne Jill Lepore , nous étions autrefois dans un monde de mystère. Nous avons ensuite commencé à comprendre ces mystères et à utiliser la science pour les transformer en faits. Et puis nous avons quantifié et opérationnalisé ces faits à l’aide de chiffres. Nous sommes actuellement dans un monde de données — des quantités écrasantes et incompréhensibles pour l’homme — que nous utilisons pour faire des prédictions, même si ces données ne suffisent pas pour appréhender pleinement la complexité de la réalité.
Comment sortir de cette ère de rupture ? Ce n’est pas en évitant la technologie. Nous avons besoin de nos systèmes sociotechniques complexes. Nous avons besoin de modèles mentaux pour donner un sens aux complexités de notre monde. Mais nous devons également comprendre et accepter leurs imperfections inhérentes. Nous devons nous assurer d’éviter les schémas statiques et biaisés — du genre de ceux que pourraient produire un fonctionnaire d’État ou un algorithme rigide — tout en laissant place au désordre inhérent aux interactions humaines. Chapman appelle cet équilibre « fluidité », où la société (et en fait, la technologie que nous utilisons quotidiennement) nous donne les choses disparates dont nous avons besoin pour être heureux tout en permettant également la société mondiale complexe que nous avons aujourd’hui.
Ces choses peuvent être contradictoires. En tant qu’animaux sociaux, nous avons besoin d’un sentiment d’appartenance, comme si nous faisions partie d’une petite tribu. Cependant, en même temps, nous devons « appartenir » à un monde technologique, scientifique et institutionnel de huit milliards de personnes interconnectées. Pour nous sentir connectés à ceux qui nous entourent, nous devons avoir accès à la créativité culturelle, qu’il s’agisse de l’art, de la musique, de la littérature ou de formes de divertissement et d’engagement qui restent à inventer. Mais nous devons également éviter de nous fragmenter en nanogenres où nous ne pouvons pas partager cette créativité et cette appréciation culturelle avec les autres. Nous devons être capables d’être qui nous sommes et de choisir avec qui nous nous associons en constante évolution, tout en étant capables de jouer notre rôle pour faire fonctionner la société et d’éprouver un sentiment de responsabilité et d’accomplissement ce faisant. Et peut-être plus important encore, nous devons être capables de donner un sens au torrent d’informations que nous rencontrons chaque jour, tout en acceptant qu’il ne sera jamais pleinement cohérent, et qu’il n’a pas besoin de l’être.
Ce n’est pas censé être idéaliste ou quelque chose pour un avenir lointain. C’est quelque chose dont nous avons besoin maintenant. Le bon fonctionnement de la civilisation dans les années à venir dépend de la réalisation de cet objectif. Dans notre parcours actuel, nous sommes confrontés au nihilisme qui accompagne la surcharge d’informations, passant d’un monde qui il y a dix ans semblait plus ou moins ordonné à un monde dans lequel rien n’a de sens clair ou de fiabilité. C’est dans un environnement comme celui-ci que se développent la polarisation, les complots et la désinformation. Cela conduit à une perte de confiance sociétale. Nos institutions et nos systèmes économiques sont fondés sur la confiance . Nous avons vu à quoi ressemblent les sociétés lorsque la confiance disparaît : les systèmes sociaux ordinaires échouent et lorsqu’ils fonctionnent, ils sont plus coûteux, capricieux, violents et injustes.
Le défi pour nous est de réfléchir à la façon dont nous pouvons créer de nouvelles façons d’être et de penser qui nous motivent — et pas seulement quelques-uns d’entre nous mais tout le monde — à être capables d’abord de faire face, puis de prospérer, dans ce monde où nous sommes. dans.
Fluidité
Il n’y a pas de solution unique. Ce seront un million de petites choses, mais elles partageront toutes les thèmes généraux de la résilience sous forme de fluidité. Le rôle de la technologie à cet égard est vital, car elle nous aide à donner un sens provisoire, contextuel et partiel au monde complexe qui nous entoure. Lorsque nous prenons un instantané d’un oiseau — ou écoutons son chant — avec une application qui identifie l’espèce, cela nous aide à acquérir une compréhension limitée. Lorsque nous utilisons notre téléphone pour trouver un parc, un restaurant local ou même une station-service dans une ville inconnue, cela nous aide à nous frayer un chemin dans un nouvel environnement. En vacances en France, l’un de nous a utilisé la fonction de traduction en temps réel de son téléphone pour comprendre ce que disait notre guide. Pensez à la façon dont nous utilisons les applications météo, les applications de fitness ou les applications de visites autoguidées de musées pour améliorer nos vies. Nous avons besoin de plus d’outils comme celui-ci dans tous les contextes pour nous aider à comprendre les nuances et le contexte au-delà du niveau pour lequel nous avons le temps dans nos vies bien remplies.
Il ne suffit pas d’avoir un logiciel, IA ou autre, qui interprète le monde à notre place. Ce dont nous avons besoin, c’est de la capacité de naviguer de manière transparente dans tous les différents contextes de notre vie. Prenons par exemple le problème de savoir si quelque chose vu en ligne est vrai. C’était déjà délicat et c’est aujourd’hui diaboliquement difficile avec Internet, les médias sociaux et maintenant l’IA générative, tous chargés de contrevérités plausibles. Mais au fait, que signifie « vrai » ? Il est tout aussi faux de croire en une vérité universelle, singulière et objective dans toutes les situations que de ne pas savoir quoi croire et de considérer que tout est également faux (ou vrai). Ces deux options donnent un avantage aux propagandistes.
Au lieu de cela, nous avons besoin de fluidité : pour reprendre les termes de Chapman , pouvoir toujours se demander : « Dans quel sens ? Disons que vous voyez une vidéo en ligne de quelque chose qui ne semble pas physiquement possible et que vous vous demandez : « Est-ce réel ? Une technologie utile vous aiderait à vous demander : « Dans quel sens ? » C’est peut-être quelque chose de fait physiquement, sans supercherie, et c’est juste surprenant. C’est peut-être un tour de magie, ou réel comme créé pour la promotion d’une émission télévisée, mais pas réellement quelque chose qui s’est produit dans le monde physique. Peut-être qu’il a été créé par une équipe d’effets spéciaux de cinéma. C’est peut-être de la propagande créée par un État-nation. Faire le tri dans des contextes comme celui-ci peut être fastidieux, et même si nous le faisons intuitivement tout le temps, dans un monde technologiquement complexe, nous pourrions avoir besoin d’aide. Il est important de permettre aux gens de continuer à communiquer et à interagir d’une manière qui nous met à l’aise, sans être entièrement guidé par les coutumes sociales passées ou par des algorithmes qui optimisent l’engagement. Pensez aux groupes WhatsApp où les gens parlent simplement, et non aux groupes Facebook médiés et contrôlés par Meta.
L’appartenance est importante, et son absence crée de l’incertitude et un manque de confiance. Il y a des leçons que nous pouvons tirer d’exemples non technologiques. Par exemple, la Suisse compte un nombre remarquable d’« associations » — allant des groupes d’entreprises aux clubs d’observation des oiseaux — et un grand nombre de résidents suisses y participent. Ce genre de chose faisait autrefois partie de la culture américaine, mais a connu un déclin spectaculaire au cours du 20e siècle, comme le montre le livre classique de Putnam, Bowling Alone . La technologie peut permettre aux gens de créer de nouvelles façons dynamiques de s’associer à mesure que les mondes en ligne et hors ligne fusionnent (pensez à la capacité d’Internet à aider les gens à se retrouver), même si elle doit à tout prix éviter l’ancien état d’esprit d’optimisation.
Nous luttons tous contre la vie dans notre société postmoderne, cette expérience imprévue de vitesse, d’échelle, de portée et de complexité jamais vue dans l’histoire de l’humanité. La technologie peut aider en reliant ce que nos esprits attendent avec le fonctionnement des systèmes. Et si chaque grande institution, qu’il s’agisse d’un gouvernement ou d’une entreprise, nous permettait d’interagir avec elle non pas selon ses termes , dans son langage bureaucratique et avec toute la complexité qu’impliquent les grands systèmes, mais avec des outils informatiques qui utilisent le langage naturel, comprennent le contexte. et de nuances, tout en pouvant toujours s’interfacer avec les structures de données qui font fonctionner ses grands systèmes. Il existe quelques premiers prototypes prometteurs, tels que des outils qui simplifient le processus de remplissage de documents fastidieux. Cela peut paraître minime, presque trivial. Mais raffiné et global, cela pourrait représenter un changement radical dans la façon dont nous interagissons avec les grands systèmes. Ils ne se sentiront plus comme des bureaucraties impersonnelles et imposantes, mais comme des catalyseurs de sociétés fonctionnelles et florissantes.
Et il ne s’agit pas uniquement d’une question de grande envergure. L’échelle n’est pas toujours souhaitable ; comme l’a écrit Bill McKibben dans Earth , nous serions probablement mieux lotis avec le Fortune 500 000 qu’avec le Fortune 500. L’échelle entraîne les maux de voir comme un État ; la mentalité autoritaire et hautement moderniste prend le dessus à grande échelle. Et même si de grandes organisations peuvent exister, elles ne peuvent pas être les seules à avoir accès aux nouvelles technologies ou à en avoir les moyens. Permettre la création et la destruction dynamiques de nouvelles organisations et de nouveaux types d’organisations — ainsi que des mécanismes juridiques et techniques pour empêcher le verrouillage et empêcher la clôture des biens communs publics — sera essentiel pour que cette nouvelle ère fluide continue de prospérer. Nous pouvons créer de nouveaux réseaux « fédérés » d’organisations et de groupes sociaux, comme nous le voyons dans le réseau social ouvert de Mastodon et de technologies similaires, dans lesquels les groupes locaux peuvent avoir des règles locales qui diffèrent de leur participation, mais n’entrent pas en conflit avec celle-ci. dans l’ensemble plus large.
Ce changement ne concerne pas seulement la façon dont la société fonctionnera, mais aussi la façon dont nous nous percevons. Nous nous habituons tous un peu plus à l’idée d’avoir des identités multiples, et certains d’entre nous se sont habitués à avoir une « carrière de portefeuille » qui n’est pas définie par un seul chapeau que nous portons. Bien qu’aujourd’hui ce mode de vie entraîne souvent une précarité économique, ce n’est pas nécessairement le cas, et plus nous pouvons tous faire les choses qui sont la meilleure expression de nous-mêmes, mieux la société se portera.
Devant
Comme l’écrit Mumford dans son histoire classique de la technologie : « La distinction essentielle entre une machine et un outil réside dans le degré d’indépendance de l’opération par rapport aux compétences et à la force motrice de l’opérateur. » Un outil est contrôlé par un utilisateur humain, alors qu’une machine fait ce que son concepteur a voulu. En tant que technologues, nous pouvons créer des outils, plutôt que des machines, qui permettent aux utilisateurs de donner un sens partiel et contextuel au monde physique et en ligne qui les entoure. En tant que citoyens, nous pouvons créer des organisations significatives qui s’étendent à l’ensemble de nos communautés, mais sans la permanence (et donc les frais généraux) des organisations de la vieille école.
Voir une structure de données a été à la fois une bénédiction et une malédiction. De plus en plus, on a l’impression qu’il s’agit d’une avalanche, d’une force incontrôlable qui va tout remodeler sur son passage. Mais c’est aussi un choix, et il existe une voie différente que nous pouvons emprunter. Nous pouvons tous y prendre part. Il existe un avenir différent que nous pouvons construire ensemble.
