Le règne des robots : une perspective exagérée et lointaine ?

Le règne des robots n’est pas pour tout de suite

Vu sous cet angle, le monde a l’air d’aller mal. Très mal. On se croirait dans l’un de ces films où des robots empreints d’intelligence prennent le contrôle du monde. Et pourtant, nous en sommes encore loin.

Une intelligence pas aussi consciente qu’on le pense

Très récemment, un “scandale” a éclaté sur le web concernant Facebook et l’expérience que l’entreprise a réalisée avec des robots. Ces derniers devaient à terme, pouvoir négocier entre eux mais aussi avec des humains. Le projet semblait réussir car les deux ordinateurs ont conversé avec des hommes sans qu’ils s’aperçoivent que ce n’étaient que des machines. Mais lors d’une conversation robot à robot, ceux-ci ont légèrement dévié de la structure de langage qu’on leur avait apprise : l’anglais.

Extrait de la conversation :

Bob : i can i i everything else

Alice : balls have zero to me to me to me to me to me to me to me to me to

Bob : you i everything else

Alice : balls have a ball to me to me to me to me…

La presse et les réseaux sociaux se sont emparés de l’affaire qui s’est pourtant déroulée en Juin, en affirmant que les chercheurs ont dû “débrancher” les machines dans la "panique". Bonjour l’ambiance apocalyptique.

Ces derniers ont en réalité changé les paramètres, comme le ferait n’importe qui dans ce cas-là. Le problème de langage viendrait en fait d’un système de récompense donnée quand ils parlent en anglais qui n’aurait pas été activé. Sans récompense, les robots ont alors communiqué de la manière qui leur semblait la plus simple pour atteindre leur but (ici, réussir à un arrangement).

Dhruv Batra, chercheur au Facebook Artificial Intelligence, déclare d’ailleurs : “C’est comme si je disais “le” 5 fois, vous interpréterez que je veux 5 copies de cet objet”.

Ceci peut expliquer cela, et nous sommes encore loin de l’indépendance des robots puisque “l’erreur” était due à un paramètre dans la programmation, non une prise d’autonomie incontrôlable.

La création d’un langage entre les robots n’est pas un phénomène isolé. Google Brain a lancé une expérience en 2016 avec trois réseaux neuronaux, affectueusement appelés Alice, Bob et Eve, qui s’est révélée bien plus parlante. Alice devait envoyer un message codé à Bob et Eve devait réussir à le déchiffrer à leur insu. Les deux complices ont amélioré le système de chiffrage à tel point que l’expérience réussit mais… au bout du 15 000ème essai. Les robots faisant preuve d’une intelligence artificielle sont parvenus dans ce cas, à faire preuve de créativité parce qu’on leur a précisément demandé.

Une intelligence globale difficile à atteindre

Les actions des robots perçues comme de l’indépendance résultent en fait de “bugs”, d’erreurs de programmation ou parce qu’on leur a justement demandé d’en faire preuve. Dans tous les cas, ils sont programmés dans un but précis, pour réaliser une tâche.

Ils sont capables de s’améliorer automatiquement en répétant des actions, grâce à l’apprentissage automatique (ou machine learning), mais toujours pour atteindre un but donné. Il n’est cependant pas écrit qu’ils seront capables de développer une intelligence artificielle globale, en pouvant être performants sur tous les fronts et disposer d’un libre arbitre. Car s’ils peuvent se montrer plus performants qu’un cerveau humain dans une tâche donnée, pour savoir tout faire il faut encore qu’on leur fasse réaliser une multitude de tâches variées et qu’ils soient programmés pour les comprendre.

La mission reste donc compliquée.

Le danger des hommes… pour les robots

L’intelligence artificielle ne détruira donc pas l’humanité demain.

Mais comme dirait Jean-Paul Sartre, “L’enfer c’est les autres”. Les autres ici… sont les hommes.

Le hacking des machines

A l’heure où l’intelligence artificielle s’intègre petit à petit dans notre quotidien (voitures, objets connectés, applications…), la cybersécurité et la guerre contre les hackers sont plus que d’actualité. Si l’IA reste sous contrôle, il reste néanmoins la possibilité du piratage.

Que se passera-t-il si les robots se font pirater pour être utilisés à mauvais escient ? Les machines de production utilisées dans les usines pourraient être reprogrammées et créer des incidents sans précédent, de même que les voitures à conduite autonome pourraient être détournées à distance. Des chercheurs chinois se sont d’ailleurs amusés pour la énième fois à pirater les voitures électriques Tesla en actionnant les freins à distance, en ouvrant le coffre… histoire de montrer que oui, tout objet même à la pointe de la technologie comporte des failles.

Des intentions peu louables

Outre le piratage d’une entité déjà existante, l’intelligence artificielle pourrait être directement créée pour de mauvaises intentions. Par exemple, pour analyser les systèmes de sécurité et mieux les contourner. On dit déjà que les hackers de demain seront des robots.

C’est l’une des raisons pour lesquelles les plus grandes têtes du milieu high-tech, ayant pourtant un pied dans les recherches sur l’IA, mettent en garde contre ses dangers. Parmi eux, le serial start-upper Elon Musk, le fondateur de Microsoft Bill Gates ou encore le célèbre scientifique Stephen Hawking, souhaitent faire prendre conscience des redoutables capacités de l’IA et proposent même un encadrement dans la recherche afin que cette technologie soit bénéfique pour l’humanité et non le contraire.

Qui l'eût cru ?

Vers le remplacement de l’homme

L’intelligence artificielle peut donc être utilisée pour “faire le mal” mais peut également faire du mal. Ses capacités sont, sans être infinies, exponentielles, et servent déjà la plupart du temps à automatiser les tâches.

Vous voyez où l’on veut en venir ? Au jour où la plupart des métiers d’aujourd’hui seront possiblement remplacés par une machine. Cette peur (presque) vieille comme le monde n’est pas si ridicule et seulement attribuée aux technophobes. Certains y voient une évolution naturelle, d’autres un danger pour leurs emplois et l’avenir. Les plus optimistes y trouvent l’occasion de repenser l’économie en réduisant le temps de travail “humain” pour augmenter la production, et ainsi gagner en temps libre.

Alors, pour ou contre un robot domestique qui effectue nos tâches au travail

L’intelligence artificielle fascine autant qu’elle fait peur. L'homme et les machines sont encore au stade de l’apprivoisement et on ne sait plus sur quel pied danser : sauter les pieds joints dans l’univers robotique ou reculer d’un pas pour conserver un monde “humain” ? Si l’IA est une technologie puissante pouvant servir l’humanité, elle doit être manipulée avec des gants car le savoir est une arme à ne pas mettre entre toutes les mains.

Article rédigé par Marion Vannelli