My Jalis - Actualité digitale et décryptage de tendances My Jalis - Actualité digitale et décryptage de tendances My Jalis - Actualité digitale et décryptage de tendances My Jalis - Actualité digitale et décryptage de tendances
Tendances, entrepreneuriat, innovations et actualité digitale : Ce que l’intelligence artificielle implique de violation de la vie privée
RETOUR
News - Tech

Ce que l’intelligence artificielle implique de violation de la vie privée

Sur les traces de Facebook ...

30/05/2018

La Quadrature du Net a publié le témoignage d’une personne qui a travaillé comme transcripteuse de l’assistant personnel Cortana. Édifiant.

La société Alphabet a frappé un grand coup lors de sa dernière conférence annuelle des développeurs. En faisant une démonstration de son assistant Google Duplex, elle a montré les progrès ahurissants effectués en matière d’intelligence artificielle. En effet, cette dernière a désormais la capacité de passer un appel téléphonique pour prendre un rendez-vous chez le coiffeur ou autre à la place de l’humain et en son nom, le tout avec un naturel déconcertant.

 

 

 

 

Fake AI

 

Sauf que la réalité pourrait être moins reluisante, Google étant soupçonné d’avoir recruté une actrice pour les besoins de la présentation. Si sa technologie n’est, pour le moment, pas remise en cause, l’affaire est emblématique d’une dérive spectaculaire de la Silicon Valley cherchant à faire le buzz à tout prix. L’intelligence artificielle étant présentée comme la révolution en cours et à venir, les entreprises des nouvelles technologies donnent dans la surenchère avec des produits toujours montrés comme plus performants quitte à travestir la réalité. On se rappelle du coup de gueule de Yann Le Cun contre Sophia, ce robot de la société Hanson Robotics présenté « comme le plus avancé à ce jour ».

 

 

 

 

Le directeur du laboratoire de recherche en intelligence artificielle de Facebook s’en était pris violemment à Hanson Robotics, l’accusant de tromper le public. Pour Le Cun, ce robot n’est ni plus ni moins qu’une marionnette manipulée par des opérateurs humains. Elle n’a absolument rien d’autonome.

 

L’affaire a le mérite de poser la question du travail humain derrière l’intelligence artificielle. Les progrès de cette dernière sont incontestables, notamment grâce au Deep Learning dont la paternité est justement attribuée à Yann Le Cun. Mais ce que l’on sait moins, ce sont les nombreuses petites mains qui agissent en coulisse pour faire fonctionner tant bien que mal une technologie encore déficiente à bien des égards.

 

 

Sur écoute

 

Julie faisait partie de ces « petites mains ». Elle était transcripteuse pour la version française de l’assistant personnel Cortana de Microsoft. Son travail consistait à écouter pendant des heures les conversations de personnes utilisant cette fonctionnalité. Parce que les instructions vocales données à l’assistant ne sont pas toujours bien comprises par ce dernier, des travailleurs humains sont nécessaires pour les coucher par écrit. Des tags sont ajoutés dans le texte pour éclairer les points qui échappent à l’« intelligence » de Cortana. Le tout est ensuite transféré à des techniciens chargés d’implémenter ces transcriptions dans l’assistant pour qu’il ne reproduise plus les mêmes erreurs.

 

Recherches en ligne, météo, conversation Skype ou Xbox Live… les moindre recoins de la vie personnelle passent donc par les oreilles de ces transcripteurs. C’est en raison de cette violation flagrante de la vie privée que Julie a accepté de témoigner pour l’association de défense des libertés, La Quadrature du Net, qui engage, à ce titre, une action collective contre chacun des GAFAM le 25 mai, date d’entrée en vigueur du Règlement Général de Protection des Données (RGPD).

 

 

La vie des autres

 

Si les données audio sont anonymisées, elles contiennent quantité de données personnelles : adresses mails, numéros de téléphone, date de naissance, événements… Si les transcripteurs disposent de bouts de pistes distribués de façon aléatoire et désordonnée, il n’est pas difficile d’opérer des recoupements et de dresser des profils d’utilisateurs. Julie n’a jamais eu accès à des numéros de cartes bancaires. Mais elle a déjà eu à taper des numéros de sécurité sociale.

 

 

 

 

 

C’est sans compter les nombreux détails de la vie intime révélés par les usagers. Nous savons que ces derniers n’ont aucun mal à s’épancher sur les moteurs de recherche. Seuls face à leur écran, ils pensent pouvoir se confier à l’abri des regards indiscrets. Cela semble encore plus vrai avec les assistants intelligents qui, non contents de fournir des réponses à nos questions pratiques de la vie quotidienne, peuvent être perçus comme des compagnons avec qui engager la conversation, interface vocale aidant. C’est l’occasion pour Julie de révéler des anecdotes cocasses sur ces utilisateurs imprudents faisant part de leurs fantasmes sexuels, sans oublier les nombreuses insultes adressées à Cortana « en personne » suite à son activation de manière non-sollicitée.

 

Faut-il voir dans cette dernière attitude des bribes de ce qui reste de notre réticence à dévoiler en public notre intimité ? Julie le pense. C’est pourquoi elle témoigne pour la Quadrature du Net. Elle estime que « beaucoup de personnes ignorent ou oublient que les données collectées par Cortana (et autres outils du genre) ne sont pas uniquement traitées par des robots, mais bien aussi par des êtres humains ». Il est donc « important que les gens mesurent ce qu’utiliser de tels logiciels implique » en terme de respect de la vie privée avec la possibilité que les données personnelles soient employées à des fins malveillantes.

 

 

Prolétariat numérique

 

Malgré leur intrusion massive dans l’intimité des utilisateurs, les transcripteurs ne signent pas de contrat de confidentialité quand ils sont recrutés par les plateformes qui proposent ce type de poste. Ce manquement caractérise une précarité plus générale : les candidats sont recrutés sans avoir besoin d’envoyer un CV ou de passer un entretien. Il suffit juste de passer un examen en ligne. Bien évidemment, ils ne sont pas salariés et travaillent à leur compte. S’ils sont libres d’effectuer le nombre d’heures de travail qu’ils souhaitent (en respectant un minimum de dix heures par semaine), cette flexibilité est un trompe-l’oeil. Cette activité exige une concentration de tous les instants qui empêche de faire 35 heures par semaine à 120/170 transcriptions l’heure.

 

Une situation qui ne risque pas de s’améliorer puisque ce type de travail fait l’objet d’une délocalisation importante dans les pays francophones comme le Maroc et Madagascar où la main d’œuvre coûte moins cher. Pour le maître de conférences en Digital Humanities Antonio Casilli, il y a urgence à traiter le développement de ce « digital labor » en lien avec le respect de la confidentialité.

 

 

 

Article de Thierry Randretsa

A lire aussi

Vous aussi,
Partagez l'actualité de votre entreprise