Les machines peuvent-elles penser et ce que l'apprentissage automatique peut nous apprendre

L'une des plus grandes craintes des gens à propos de l'intelligence artificielle est que les machines surgissent et que l'humanité devienne obsolète, que nous leur donnions trop de pouvoir et de contrôle, et qu'elles prennent le relais par bienveillance ou par malveillance.

La racine de bon nombre de ces histoires d'horreur de science-fiction est la capacité des machines à penser par elles-mêmes et à parvenir à une conclusion logique raisonnée. Nous avons eu un test pour l'intelligence des machines sous la forme du test de Turing, qui voit si une machine peut tromper un interrogateur humain en lui faisant croire qu'il parle à un autre humain.

Cependant, le test n'est pas sans problèmes et l'une de mes critiques préférées du test de Turing est venue sur Twitter :

Le test de Turing revient à dire que les avions ne volent que s'ils peuvent tromper les oiseaux en leur faisant croire qu'ils sont des oiseaux. (h/t Peter Norvig) #AI

– Pedro Domingos (@pmddomingos) 19 juillet 2015

Au départ, j'ai pensé "d'accord, juste - nous définissons que la seule véritable intelligence est décrite par les propriétés que les humains présentent", et bien que l'une des meilleures réponses ait souligné que la sélection d'une seule caractéristique n'était pas la même chose que le test de Turing , cela m'a fait réfléchir sur la base de mon interprétation initiale du Tweet.

Afin de répondre à cette grande question, nous devons la simplifier d'une certaine manière. Turing l'a fait en simplifiant « Les machines peuvent-elles penser ? » à « les machines peuvent-elles tromper les humains en leur faisant croire qu'ils sont humains ? » Par humain, nous entendons également « capable de converser en langage humain ».

L'un des problèmes liés à l'assimilation de la pensée à la communication est qu'il s'agit de deux capacités déconnectées. Je suis un être pensant et j'apprécie le russe, l'allemand et le français, mais demandez-moi d'avoir une conversation avec quelqu'un dans l'une de ces langues et j'aurai du mal, à moins que je consacre beaucoup de temps à apprendre cette langue.

Je serais classé comme une machine dans un test de Turing non anglais. Ainsi, le test échoue en raison de sa dépendance au langage naturel. Existe-t-il une meilleure façon de définir si quelque chose peut penser ?

En règle générale, la pensée est associée à l'intelligence - cela conviendrait-il mieux ? La définition du dictionnaire de l'intelligence est : La capacité d'acquérir et d'appliquer des connaissances et des compétences.

Les ordinateurs sont très bons pour acquérir des informations et prendre des décisions sur la base de ces informations, traditionnellement de manière très fixe. Avec les techniques d'apprentissage automatique, l'acquisition de connaissances s'est affinée, avec des techniques semi-supervisées et non supervisées mettant le contrôle hors des mains de l'homme. Nous avons donc une sorte d'intelligence artificielle, mais cela ne répond pas à notre question initiale.

Les humains ont la capacité d'apprendre et de prendre des décisions sans réponses préconçues, alors que les ordinateurs doivent être programmés. Bien que nous soyons nés « préprogrammés », nous n'avons pas besoin d'apprendre à voir, à entendre ou à émettre des sons, mais nous avons besoin d'aide pour mettre ces capacités en contexte ; produire des sons que les autres peuvent comprendre et attribuer une pertinence aux formes que nous voyons avec notre vision stéréo.

Une machine à penser artificielle doit avoir un point de départ égal. On nous donne une éducation pour nous former et il y a un moment où un humain prend conscience de lui-même. Le bébé dans le miroir est soudainement perçu comme un reflet plutôt qu'un enfant différent.

Il existe un livre fantastique couvrant ce sujet d'un point de vue scientifique intitulé Le bébé dans le miroir : le monde d'un enfant de la naissance à l'âge de trois ans.

Les machines peuvent également avoir un sens limité de la conscience de soi. Ils peuvent apprendre à se reconnaître eux-mêmes ou des parties d'eux-mêmes dans des miroirs, et ont récemment démontré une conscience de soi de base en comprenant s'ils étaient ou non affectés par une « pilule » pour les rendre incapables de parler.

Ainsi, les machines peuvent faire preuve d'intelligence et de conscience (limitée) de soi. Mais c'est encore loin d'être une démonstration de pensée. Il y a une excellente citation du film I, Robot où Sonny, le robot et le détective discutent de ce qui rend quelqu'un «humain» :

Moi, Robot (2004)
Détective Del Spooner : Les êtres humains ont des rêves. Même les chiens ont des rêves, mais pas vous, vous n'êtes qu'une machine. Une imitation de la vie. Un robot peut-il écrire une symphonie ? Un robot peut-il transformer une… toile en un magnifique chef-d'œuvre ?
Sonny : Peux-tu *tu* ?

Bien que tous les humains ne puissent pas posséder la créativité artistique que nous utilisons si souvent pour distinguer les humains en tant qu'intelligence supérieure, comme le souligne la dernière recherche sur les rêves profonds de Google, les machines créent de l'art abstrait - des pièces originales qu'aucun humain n'a jamais imaginées.

Certaines personnes pourraient soutenir que ces images sont plus artistiques que ce que de nombreux humains pourraient produire, mais elles sont simplement le résultat d'un nombre fini de décisions et de leurs effets d'entraînement à la suite d'un entraînement à voir des modèles. L'imagination humaine est-elle différente ? Notre subconscient combine-t-il des fragments de nos connaissances et les recrache-t-il simplement sous une forme que nous pouvons comprendre ? Pourtant, c'est de la créativité, pas de la pensée.

Alors que nous pouvons mettre des électrodes à l'extérieur de la tête humaine et voir les potentiels électriques se produire avec le déclenchement des neurones, nous ne pouvons jamais vraiment savoir si la personne en face de nous pense, simplement parce qu'elle peut nous dire qu'elle le fait - nous tenons cela pour acquis. car ils sont humains. De la même manière, nous tenons pour acquis qu'une machine n'est pas vraiment consciente d'elle-même. Nous ne pouvons tester et vérifier que ce que nous pensons être les résultats d'une pensée indépendante : la conscience de soi, l'intelligence et la capacité à résoudre des problèmes en dehors de l'expérience passée en utilisant les compétences acquises.

Les machines sont capables de toutes ces choses individuellement, même si elles doivent encore être combinées. Même lorsque cela se produit, je pense que beaucoup réfutent que la pensée se produit parce que «cela» n'est qu'une simple machine à états. À ce stade, je devrais demander : et les humains ne le sont-ils pas ?

Peut-être que si nous pouvions définir « les humains peuvent-ils penser ? » d'une manière scientifique, nous pouvons tous être d'accord, alors nous aurons un ensemble irréfutable de métriques pour les inévitables intelligences mécaniques qui feront partie de nos vies.