Cette histoire est syndiquée à partir de la newsletter Substack Big Technology; abonnez-vous gratuitement ici .
Les chatbots IA deviennent si bons que les gens commencent à les voir comme des humains. Plusieurs utilisateurs ont récemment appelé les bots leur meilleurs amis , d'autres ont ont professé leur amour , et un ingénieur Google a même aidé un engager un avocat . Du point de vue du produit, ces bots sont extraordinaires. Mais du point de vue de la recherche, les personnes qui rêvent de leur intelligence au niveau humain doivent être confrontées à la réalité.
Aujourd'hui, les chatbots ne sont entraînés que sur du texte, une limitation débilitante. Ingérer des montagnes de mots écrits peut produire des résultats à couper le souffle, comme réécriture Eminem dans le style shakespearien, mais cela empêche la perception du monde non verbal. Une grande partie de l'intelligence humaine n'est pas marquée. Nous acquérons notre compréhension innée de la physique, de l'artisanat et des émotions non pas en lisant, mais en vivant. Sans matériel écrit sur ces sujets pour s'entraîner, l'IA échoue.
'La compréhension que ces systèmes actuels ont de la réalité sous-jacente exprimée par le langage est extrêmement superficielle', a déclaré Yann LeCun, scientifique en chef de l'IA chez Meta et professeur d'informatique à l'Université de New York. 'Ce n'est pas un pas particulièrement important vers l'intelligence au niveau humain.'
Tenant une feuille de papier, LeCun a démontré la compréhension limitée de ChatGPT du monde dans un récent Podcast sur la grande technologie épisode . Le bot ne saurait pas ce qui se passerait s'il lâchait le papier d'une main, a promis LeCun. Après consultation, ChatGPT a déclaré que le papier 's'inclinerait ou tournerait dans la direction de la main qui ne le tient plus'. Pendant un instant, compte tenu de sa présentation et de sa confiance, la réponse a semblé plausible. Mais le bot avait tort.
Le papier de Lecun se dirigea vers la main qui le tenait toujours, ce que les humains savent instinctivement. ChatGPT, cependant, a été effacé parce que les gens décrivent rarement la physique du lâcher prise d'un papier dans le texte. (Peut-être jusqu'à maintenant).
'Je peux trouver une énorme pile de situations similaires, chacune d'entre elles n'aura été décrite dans aucun texte', a déclaré LeCun. 'Alors la question que vous voulez poser est:' Quelle quantité de connaissances humaines est présente et décrite dans le texte? 'Et ma réponse à cela est une infime partie. La plupart des connaissances humaines ne sont pas réellement liées au langage.
Sans une compréhension innée du monde, l'IA ne peut pas prédire. Et sans prédiction, il ne peut pas planifier. 'La prédiction est l'essence de l'intelligence', a déclaré LeCun. Cela explique, au moins en partie, pourquoi les voitures autonomes continuent de se balader dans un monde qu'elles ne comprennent pas complètement. Et pourquoi l'intelligence du chatbot reste limitée, bien qu'encore puissante, malgré l'anthropomorphisation.
