Optimiser la logistique, détecter la fraude, produire des œuvres d'art, mener des recherches, traduire : les systèmes informatiques intelligents transforment nos vies pour le mieux. À mesure qu’ils deviennent plus performants, notre monde gagne en efficacité, et, par conséquent, s’enrichit.

Des géants de la technologie comme Alphabet, Amazon, Facebook, IBM et Microsoft, ainsi que des personnalités comme Stephen Hawking et Elon Musk, croient de leur devoir d’alerter au sujet d’une intelligence artificielle qui serait sans limites. À bien des égards, il s’agit d’une nouvelle frontière, qui concerne tout autant l'éthique et l'évaluation des risques que les nouvelles technologies. Alors, quels sont les sujets qui troublent le sommeil des experts en intelligence artificielle ?

1. Chômage. Que faire après la fin du travail ?

L'automatisation concerne au premier chef la hiérarchie du travail. Tout comme nous avons inventé des moyens d'automatiser les emplois, nous pourrions ouvrir l’espace nécessaire pour que les individus assument des rôles plus complexes, et remplacer ainsi le travail physique, qui a dominé le monde préindustriel, par le travail cognitif, qui caractérise les tâches stratégiques et administratives dans notre société mondialisée.

Voyez le secteur du transport routier : il emploie aujourd’hui des millions de personnes aux États-Unis. Qu'arrivera-t-il à ces emplois si les camions autonomes promis par Elon Musk, de Tesla, deviennent largement disponibles au cours de la prochaine décennie ? Si nous considérons le risque plus faible d'accidents, l’utilisation de camions autonomes semble pourtant constituer un choix éthique. Les employés de bureau, comme la majorité de la main-d'œuvre des pays développés, pourrait vivre un scénario comparable.

Se pose alors la question de savoir comment nous allons occuper notre temps. Pour la plupart, nous subvenons à nos besoins et à ceux de notre famille à l’aide des revenus procurés par la vente de notre temps. Nous pouvons espérer que les gens pratiqueront des activités non professionnelles qui ont du sens : s'occuper de leur famille, s'impliquer dans leur communauté, et trouver une façon nouvelle de contribuer à la société humaine.

Si nous menons cette transition à bien, peut-être envisagerons-nous un jour le passé en qualifiant de barbare la période où les êtres humains devaient vendre l’essentiel de leur temps pour vivre.

2. Inégalité. Comment répartir la richesse créée par les machines ?

Notre système économique est basé sur la rémunération de la contribution à l'économie, souvent évaluée à l'aide d'un salaire horaire. La majorité des entreprises de produits et de services dépendent encore du travail horaire. Mais les entreprises peuvent désormais réduire drastiquement le recours à la main-d'œuvre humaine à l’aide de l’intelligence artificielle, ce qui réduit d’autant le nombre de bénéficiaires des revenus générés. Tout l’argent ira donc aux propriétaires des entreprises dont l’activité est fondée sur l'IA.

Nous constatons déjà un écart de richesse croissant, où les fondateurs de start-up récupèrent une grande partie de l'excédent économique qu'ils créent. En 2014, les trois plus grandes entreprises de Detroit et les trois plus grandes entreprises de la Silicon Valley ont généré un chiffre d’affaire cumulé quasi-identique... mais il y avait 10 fois moins d'employés dans la Silicon Valley.

Si nous sommes en train de créer une société post-professionnelle, comment pouvons-nous structurer de façon équitable l’économie post-travail ?

3. Humanité. Comment notre comportement et nos interactions sont-ils affectés par les machines ?

Les bots informatiques intelligents deviennent de mieux en mieux capables de modéliser la conversation et les relations humaines. En 2015, un bot informatique, nommé Eugene Goostman, a remporté le Turing Challenge. Après avoir dialogué au clavier avec un correspondant inconnu, les évaluateurs ont indiqué s'ils avaient discuté avec un être humain ou une machine. Eugene Goostman a trompé plus de la moitié des évaluateurs humains, qui croyaient avoir dialogué avec un de leurs semblables.

Ce jalon marque le début d'un âge où nous interagirons fréquemment avec des machines comme s'il s'agissait d'humains; que ce soit dans le service client ou les ventes. Alors que l'attention et la gentillesse humaines sont limitées, les bots artificiels peuvent canaliser des ressources virtuellement illimitées pour construire des relations.

Sans le savoir, nous sommes déjà témoins de la façon dont les machines peuvent déclencher les centres de récompense dans le cerveau humain. Il suffit de regarder les jeux vidéo ou les titres des pièges à clics. Les titres des articles qui constituent des pièges à clics sont souvent optimisés avec des tests A/B, une forme d'optimisation algorithmique rudimentaire d’un contenu destinée à capter notre attention. Cette méthode et d’autres sont utilisées pour rendre addictifs de nombreux jeux vidéo et mobiles. La dépendance à la technologie est la nouvelle frontière de la dépendance humaine.

Nous pourrions sans doute penser à un autre mode d’utilisation des logiciels qui dirigent déjà l'attention humaine et déclenchent des actions de manière efficace. S’ils étaient bien exploités, ils pourraient faire évoluer nos comportements d’une façon bénéfique pour la société. À l’inverse, ils peuvent s’avérer préjudiciables s’ils sont dans de mauvaises mains.

4. Stupidité artificielle. Comment nous prémunir contre les erreurs ?

L'intelligence provient de l'apprentissage, pour les humains comme pour les robots. Les systèmes passent en général d’abord par une phase d'apprentissage au cours de laquelle ils « apprennent » à détecter les bons modèles et à agir en fonction de celui qu’ils reconnaissent au sein des données qui leur sont fournies. Une fois la phase d’apprentissage terminée, le système passe en phase de test, où il reçoit beaucoup plus de données d'essai et où son fonctionnement est observé.

La phase d’apprentissage ne couvre évidemment pas tous les exemples possibles que le système peut être amené à traiter dans le monde réel. On peut leurrer des systèmes de ce type en utilisant des méthodes qui ne tromperaient aucun être humain. Par exemple, des motifs de points aléatoires peuvent amener une machine à « voir » des choses qui ne sont pas là. Si nous nous reposons sur l'intelligence artificielle pour entrer dans un nouveau monde de travail, de sécurité et d'efficacité, nous devons nous assurer que la machine fonctionne comme prévu et que personne ne peut la maîtriser pour l'exploiter à ses propres fins.

5. Robots racistes. Comment éliminer les parti-pris de l'IA?

Bien que l'intelligence artificielle soit capable d'une vitesse et d'une capacité de traitement bien supérieures à celles des humains, on ne peut pas toujours lui faire confiance pour être juste et neutre. Google et sa société mère Alphabet sont l'un des leaders en matière d'intelligence artificielle, comme dans le service Photos de Google, où elle est utilisée pour identifier les personnes, les objets et les scènes. Mais cela peut mal se passer, par exemple lorsqu'un appareil photo fait de la discrimination raciale, ou quand un logiciel de prédiction de la récidive en matière criminelle démontre un parti pris contre les Noirs.

Les systèmes d'intelligence artificielle sont créés par les humains, et ceux-ci sont souvent de parti-pris et font preuve de préjugés. Là encore, si elle est employée à bon escient ou par ceux qui aspirent au progrès social, l'intelligence artificielle peut devenir un catalyseur de changement positif.

6. Sécurité. Comment garder l’IA à l'abri de nos adversaires ?

Plus une technologie devient puissante, plus elle peut être utilisée pour de mauvaises raisons comme pour de bonnes. Ceci s'applique non seulement aux robots produits pour remplacer les soldats, ou aux armes autonomes, mais aussi aux systèmes d'intelligence artificielle, qui peuvent se révéler redoutables s'ils sont mal utilisés. Parce que les combats ne sont pas seulement livrés sur le champ de bataille, la cybersécurité devient toujours plus importante. Après tout, nous avons affaire à un système infiniment plus rapide et plus capable que nous ne le sommes.

7. Génies maléfiques. Comment nous protéger des conséquences imprévues ?

Les adversaires ne sont pas les seuls sujets inquiétants. Et si l'intelligence artificielle elle-même se retournait contre nous? Non pas en devenant « mauvaise » à la façon d’un être humain, ni de la façon dont les films hollywoodiens décrivent les désastres qu’elle pourrait déclencher. En revanche, on peut aisément imaginer un système avancé d'intelligence artificielle qui, à l’instar du « génie dans la bouteille », répondrait à nos attentes, mais en causant de terribles conséquences imprévues.

Bien sûr, une machine est peu susceptible de malice, mais le contexte de la demande qui lui est faite risque de lui échapper. Imaginez un système d'intelligence artificielle à qui l’on demande d’éradiquer le cancer dans le monde. Après de nombreux calculs, il crache une formule qui, effectivement, met fin au cancer – en tuant tout le monde. Un tel ordinateur atteindrait l’objectif « plus jamais de cancer » avec une grande efficacité, mais pas de la façon souhaitée par les humains.

8. Singularité. Comment conserver le contrôle d'un système intelligent et complexe ?

Les humains n’occupent pas le sommet de la chaîne alimentaire grâce à leurs dents pointues ou à leur force musculaire. Leur domination provient presque entièrement de l’ingéniosité et de l’intelligence. Nous pouvons tirer le meilleur parti d’animaux plus gros, plus rapides et plus forts parce que nous pouvons créer et utiliser des outils pour les contrôler : des outils matériels comme les cages et les armes, et des outils cognitifs comme l'entraînement et le conditionnement.

Dès lors, la question se pose au sujet de l'intelligence artificielle : aura-t-elle, un jour, le même avantage sur nous ? Il ne suffirait pas de « débrancher la prise », car une machine suffisamment avancée peut anticiper ce mouvement et se défendre. C'est ce que certains appellent la « singularité », le moment où les êtres humains ne seront plus les êtres les plus intelligents sur Terre.

9. Droits des robot. Comment définir le traitement humain de l'IA ?

Pendant que les neuroscientifiques tentent de débloquer les secrets de l'expérience consciente, nous comprenons mieux les mécanismes fondamentaux de la récompense et de l'aversion. Nous partageons ces mécanismes avec les animaux les plus simples. D'une certaine manière, nous construisons des mécanismes de récompense et d'aversion au sein des systèmes d'intelligence artificielle. Par exemple, l'apprentissage par renforcement est similaire au dressage d'un chien : l’amélioration de la performance est renforcée par une récompense virtuelle.

À l'heure actuelle, ces systèmes sont assez superficiels, mais ils deviennent de plus en plus complexes et réalistes. Pourrions-nous considérer un système comme souffrant lorsque ses fonctions de récompense lui renvoient des données négatives ? Les algorithmes « génétiques » fonctionnent en créant plusieurs instances d'un système, dont seules celles qui obtiennent les meilleurs résultats « survivent » et se combinent pour générer la génération suivante d'instances. Cela se poursuit pendant plusieurs générations et constitue un moyen d'améliorer un système. Les instances en échec sont supprimées. Devons-nous considérer les algorithmes génétiques comme une forme de meurtre de masse ?

Si nous considérons les machines comme des entités capables de percevoir, ressentir et agir, il devient cohérent de réfléchir à leur statut juridique. Les systèmes d’intelligence artificielle doivent-ils être traités à la façon des animaux d'une intelligence comparable ? Devons-nous prendre en considération la souffrance des machines « douées de sensibilité » ?

Certaines questions d’éthique portent sur l'atténuation de la souffrance, d’autres sur le risque de résultats négatifs. Tout en accordant à ces risques la considération qu’ils méritent, nous devons aussi garder à l'esprit que, dans l'ensemble, ce progrès technologique signifie une vie meilleure pour tous. L'intelligence artificielle a un vaste potentiel et nous sommes responsables de sa mise en œuvre.