Erreur système : quand la Big Tech a déraillé et comment nous pouvons nous relancer

Un manifeste avant-gardiste de trois professeurs de Stanford – des experts qui travaillent au cœur de la révolution technologique depuis des décennies – qui révèle comment l'obsession de la grande technologie pour l'optimisation et l'efficacité a sacrifié des valeurs humaines fondamentales et propose des étapes pour changer de cap, renouveler notre démocratie et nous sauver.

En un clin d'œil, un optimisme naïf quant au potentiel libérateur de la technologie a cédé la place à une obsession dystopique pour les algorithmes biaisés, le capitalisme de surveillance et les robots qui suppriment des emplois. Pourtant, trop peu d'entre nous voient une alternative à l'acceptation de la marche en avant de la technologie. Nous avons simplement accepté un avenir technologique conçu pour nous par les technologues, les capital-risqueurs qui les financent et les politiciens qui leur donnent carte blanche.

Il n'est pas nécessaire qu'il en soit ainsi.

System Error expose la racine de notre situation actuelle : comment la focalisation implacable de la grande technologie sur l'optimisation conduit à un avenir qui renforce la discrimination, érode la vie privée, déplace les travailleurs et pollue l'information que nous recevons. Cette mentalité d'optimisation substitue ce qui intéresse les entreprises aux valeurs que nous, en tant que société démocratique, pourrions choisir de privilégier. Les optimiseurs bien intentionnés ne parviennent pas à mesurer tout ce qui est significatif et, lorsque leurs disruptions créatives atteignent une grande échelle, ils imposent leurs valeurs au reste d'entre nous.

Forts d'une compréhension de la façon dont les technologues pensent et exercent leur pouvoir, trois professeurs de Stanford – un philosophe travaillant à l'intersection de la technologie et de l'éthique, un politologue qui a servi sous Obama et le directeur du programme de premier cycle en informatique de Stanford (également un des premiers ingénieurs de Google) – révèlent comment nous pouvons demander des comptes à ce pouvoir.

Inquiets des valeurs qui imprègnent le corps étudiant et la culture de l'université, ils ont travaillé ensemble pour tracer une nouvelle voie, créant un cours populaire pour transformer la façon dont les technologues de demain abordent leur profession. Maintenant, alors que la domination de la grande technologie devient un casse-tête sociétal explosif, ils partagent leurs idées provocatrices et leurs solutions concrètes pour aider chacun à comprendre ce qui se passe, ce qui est en jeu et ce que nous pouvons faire pour contrôler la technologie au lieu de la laisser nous contrôler.