Compatible avec l'homme : l'intelligence artificielle et le problème du contrôle

« Le livre le plus important sur l'IA cette année. » —The Guardian

« Le livre le plus important que j'aie lu depuis longtemps » (Daniel Kahneman) ; « Une lecture indispensable » (Max Tegmark) ; « Le livre que nous attendions tous » (Sam Harris)

Un chercheur de premier plan en intelligence artificielle propose une nouvelle approche de l'IA qui nous permettra de coexister avec des machines de plus en plus intelligentes

Dans l'imaginaire populaire, l'intelligence artificielle surhumaine est un tsunami imminent qui menace non seulement les emplois et les relations humaines, mais la civilisation elle-même. Le conflit entre les humains et les machines est considéré comme inévitable et son issue est trop prévisible.

Dans cet ouvrage révolutionnaire, Stuart Russell, chercheur éminent en IA, affirme que ce scénario peut être évité, mais seulement si nous repensons l'IA depuis la base. Russell commence par explorer l'idée de l'intelligence chez les humains et les machines. Il décrit les avantages à court terme auxquels nous pouvons nous attendre, des assistants personnels intelligents à la recherche scientifique considérablement accélérée, et souligne les percées de l'IA qui doivent encore se produire avant d'atteindre l'IA surhumaine. Il explique également les façons dont les humains trouvent déjà le moyen de détourner l'IA, des armes autonomes létales au sabotage viral.

Si les percées prédites se produisent et que l'IA surhumaine émerge, nous aurons créé des entités bien plus puissantes que nous-mêmes. Comment pouvons-nous nous assurer qu'elles n'auront jamais, jamais, de pouvoir sur nous ? Russell suggère que nous pouvons reconstruire l'IA sur une nouvelle base, selon laquelle les machines sont conçues pour être intrinsèquement incertaines quant aux préférences humaines qu'elles doivent satisfaire. De telles machines seraient humbles, altruistes et engagées à poursuivre nos objectifs, pas les leurs. Cette nouvelle base nous permettrait de créer des machines qui sont prouvablement déférentes et prouvablement bénéfiques.