Intelligence artificielle, sottise humaine

Microsoft a-t-il créé une intelligence artificielle raciste  ? Tay, lancé sur Twitter le 23 mars pour discuter avec les internautes, a en tout cas dépassé les bornes. En moins de huit heures d’existence, ce programme a produit des propos racistes et révisionnistes avant d’être mis hors ligne à la hâte par ses créateurs. Tay avait pourtant l’allure innocente d’une adolescente s’exprimant à coups de «LOL», d’emojis et de gifs animés. Mais il n’aura fallu qu’une poignée d’internautes acharnés pour la faire craquer.

Car Tay n’est pas qu’un vulgaire « bot », un robot automatisé produisant ­des messages préprogrammés. Elle est capable, dans une certaine mesure, de ­ « comprendre » les questions des internautes et d’y répondre. Alors, quand quelqu’un lui demande de répéter, elle s’exécute, quelles que soient les ignominies prononcées. Ses compétences (être capable de comprendre la demande de l’humain) mettent en lumière ses faiblesses ­ (l’incapacité à saisir que le propos est problématique). Tay est aussi dotée d’une fonction d’apprentissage, et progresse au fur et à mesure de ses discussions. Elle apprend donc ­des internautes… Mais ces derniers sont-ils dignes de servir de base de données à ce type de programmes d’intelligence artificielle ? A l’évidence, non – même si la plupart des 100 000 tweets publiés par Tay n’avaient rien d’offensant.

Imperfection des idées

Ce n’est pas la première fois qu’un programme d’intelligence artificielle dérape à cause des contenus produits par ­les humains. A la question « Qui dirige ­Hollywood ? », ­Google répondait à l’automne 2015  : « Les juifs. » Son algorithme en était venu à cette conclusion en recoupant les informations de plusieurs contenus consacrés à ce sujet. Quelques mois plus tôt, à la question « Qu’est-il arrivé aux dinosaures ? », Google reprenait les propos d’un site créationniste expliquant que ces animaux étaient « utilisés pour endoctriner les enfants et les adultes ». Autre exemple  : peu après les attentats du 13 novembre 2015 à Paris, il suffisait de taper « Daesh », l’acronyme arabe de l’organisation Etat islamique, dans Google Maps, pour que celui-ci le géolocalise… au Bataclan. Une erreur due, là encore, à la multitude de contenus en ligne associant ces mots-clés.

La gigantesque base de données que représente Internet est une aubaine pour les chercheurs en intelligence artificielle  : leurs programmes y puisent de quoi engranger des connaissances et s’améliorer. C’est une des raisons pour lesquelles ces technologies ont connu un tel bond en avant ces dernières années. Mais ces quelques exemples montrent que la machine n’est pas toujours à même d’évaluer la pertinence de ces informations. Comment mieux sélectionner les savoirs sur lesquels doit se fonder une intelligence ­artificielle pour apprendre ­et donner des réponses ? L’ingénieur ou l’entreprise àl’origine du programme, s’ils se mêlent de ce choix en amont, ne risquent-ils pas d’inculquer à leur machine leurs propres biais, leur propre vision du monde ? De remplacer l’imperfection des idées du plus grand nombre par l’idéologie d’une seule entité ? L’intelligence artificielle n’est aujourd’hui qu’un reflet de l’intelligence humaine. Et aussi de ses limites.

Morgane Tual, Le Monde Idées, 07.04.2016

En savoir plus sur http://www.lemonde.fr/idees/article/2016/04/07/intelligence-artificielle-betise-humaine_4898105_3232.html#UXLcXqZEpT6kXaMs.99

 

 

 

Publicités
Ce contenu a été publié dans Uncategorized par georgesvignaux. Mettez-le en favori avec son permalien.

A propos georgesvignaux

Directeur de recherche honoraire au Centre national de la recherche scientifique, Paris. Docteur d'Etat en linguistique et sciences cognitives (Paris7) Directeur de programmes en langage et cognition et nouvelles technologies de communication Chevalier dans l'Ordre national du Mérite

Laisser un commentaire

Entrez vos coordonnées ci-dessous ou cliquez sur une icône pour vous connecter:

Logo WordPress.com

Vous commentez à l'aide de votre compte WordPress.com. Déconnexion / Changer )

Image Twitter

Vous commentez à l'aide de votre compte Twitter. Déconnexion / Changer )

Photo Facebook

Vous commentez à l'aide de votre compte Facebook. Déconnexion / Changer )

Photo Google+

Vous commentez à l'aide de votre compte Google+. Déconnexion / Changer )

Connexion à %s