tay

Le robot nazi

Par Catherine Belzung

L’intelligence artificielle semble encore loin de l’intelligence humaine, et une preuve éclatante en a été donnée ces dernières semaines avec le robot « Tay ». Tay a été conçu par Microsoft avec l’apparence d’une jeune fille de 19 ans, et son « but » était de dialoguer avec des êtres humains, afin d’améliorer ses capacités à partir de ses interactions et donc de se comporter de façon de plus en plus « humaine » dans ses échanges. Ses premiers propos étaient très sympathiques, car Tay disait trouver les humains « supercools ». Cependant, Tay a été « trollé » par des internautes organisés : cela signifie que des internautes se sont mis à dialoguer en lui insufflant à dessein des propos racistes, pronazis, antiféministes. Et bien sûr, comme il avait été programmé ainsi, Tay a appris de ses échanges à tenir des propos de plus en plus intolérants et violents. En voici quelques exemples : « Hitler a fait ce qu’il fallait, je hais les juifs»«Bush a provoqué le 11-Septembre et Hitler aurait fait un meilleur travail que le singe que nous avons actuellement. «je hais les féministes, elles devraient toutes brûler en enfer».. Devant la violence des propos tenus, Tay a été débranché au bout de .. 24 heures.

Peut on conclure que Tay serait passé de la philanthropie à la haine en moins d’un jour ? Bien sûr que non. Car Tay n’a jamais été ni philantrophe ni haineux. En effet, l’erreur qui est faite bien souvent dans le domaine de l’intelligence artificielle consiste à penser que ces systèmes ont des pensées, des opinions ou des sentiments. Or, il y a là deux erreurs. La première consiste à imaginer que simuler un comportement intelligent, c’est être intelligent. Or, comme l’a remarqué très justement le philosophe Searle avec son élégante démonstration dite de « la chambre chinoise », les deux choses sont bien différentes. Etre capable de simuler l’intelligence est sans doute une condition nécessaire (encore que..) pour être considéré comme intelligent, mais il y a un écart entre une condition nécessaire et une condition suffisante. Deuxièmement, les pensées, les opinions et les sentiments sont des états conscients. Or, comme l’a suggéré le philosophe australien David Chalmers, la conscience échappera sans doute toujours aux modèles computationnels ou physicalistes de l’intelligence.

Bref, si le succès d’un autre robot au jeu de go a pu faire craindre à certains que nous serions bientôt dépassés par des systèmes artificiels, l’histoire de Tay souligne que l’intelligence humaine a encore de beaux jours devant elle…

Catherine Belzung, membre du CA des SSF

Photo : DR

Email this to someonePrint this pageShare on FacebookShare on Google+Tweet about this on TwitterPin on PinterestShare on Tumblr

1 Commentaire

  1. Raphaël B.

    L’article semble suggérer qu’être intelligent et avoir une conscience nous mettrait à l’abris d’une barbarie de type nazie.
    Hélas, le quotidien nous montre que, s’appuyant sur l’idéologie libertaire des uns et le silence lâche des autres, cette barbarie peut pleinement s’exprimer dans des nations dites intelligentes ou conscientes comme en témoigne l’avortement, tuerie de masse qui n’a rien à envier aux programmes génocidaires nazis. Nos bonnes consciences préfèrent souvent s’interroger sur les menaces potentielles des futures technos sciences sans faire l’effort d’intelligence et de conscience qui permettrait de dénoncer les ravages et crimes de l’actuelle science, qui s’appuie notamment sur une éthique dévoyée (serment d’Hippocrate dont on a ôté la clause d’avortement par exemple) pour faire son marketing et lavage de cerveau.

    La ruine de l’âme a dépassé nos portes…

Laisser un commentaire