Au cas où vous n'auriez pas reçu le mémo sur l'ensemble de l'IA qui va prendre le contrôle du monde, voici les quelques faits que vous devez savoir.(Photo : Shan Sheehan/Flickr) Cette année, pour la première fois, un ordinateur a battu le champion du monde de Go, l'un des jeux les plus complexes connus de l'homme. Ce fut un autre moment décisif dans les progrès de l'intelligence artificielle.
Pour vous donner une idée de la complexité de Go, il existe 2,082 × 10^170 configurations de cartes possibles. C'est 2 avec 170 zéros après. Il y a de fortes chances que votre cerveau ne puisse même pas concevoir un nombre aussi grand (mais un ordinateur le peut). Ou pour vous donner une idée de la taille d'un nombre cette c'est-à-dire qu'il n'y a que 10^80 atomes dans l'univers - c'est-à-dire un suivi de 79 zéros.
La raison pour laquelle c'est si important est que le Go est si compliqué que pour battre un joueur humain de haut niveau, une machine devrait apprendre à penser de manière créative, à improviser et à s'adapter à la situation actuelle sans pouvoir calculer tout ce qui est possible. résultat; c'est-à-dire qu'il doit y avoir une intelligence artificielle sérieuse en cours - comme une intelligence réelle et créative.
Au cas où vous n'auriez pas reçu le mémo sur l'ensemble de l'IA qui va prendre le contrôle du monde, voici les quelques faits que vous devez savoir.
- Les ordinateurs deviennent de plus en plus intelligents.
- Les ordinateurs deviennent de plus en plus intelligents à un rythme accéléré, c'est-à-dire que les progrès qui prenaient auparavant 10 ans prennent maintenant un an. Des progrès qui prenaient auparavant un an, prennent maintenant des semaines, voire des jours.
- Il est fort probable qu'au cours de notre vie, il y aura des ordinateurs bien plus intelligents et capables que n'importe quel être humain.
- Ces ordinateurs plus intelligents seront alors probablement capables de concevoir et d'améliorer la technologie (c'est-à-dire eux-mêmes) et de créer une nouvelle technologie que nous ne pouvons même pas commencer à comprendre.
Les personnes qui comprennent les points ci-dessus ont généralement l'une des deux réactions. Soit:
- Ils pensent que nous sommes complètement foutus. Les ordinateurs vont tout s'emparer de tout et nous tuer/asservir tous. Ou alors:
- Cela va entraîner une utopie technologique qui résoudra toutes nos querelles humaines idiotes et nous pourrons tous vivre heureux après avoir eu des orgies dans notre monde ultra-VR qui existe dans le cloud.
Comme pour la plupart des choses, la vérité est probablement quelque part au milieu.
Mais même si la merde frappe le ventilateur, même si les robots nous voient comme les poux ruinant le cuir chevelu vierge de cette planète et veulent tous nous rassembler et nous jeter dans un volcan actif, même si nous inventons par inadvertance les mécanismes mêmes de notre propre extinction…
… Je m'en fiche. Ce n'est pas grave. Cela ne me dérange pas. Et cela ne devrait pas vous déranger non plus. Je vais expliquer pourquoi dans un instant. Mais pour l'instant, sachez que, pour ma part, je souhaite la bienvenue à nos nouveaux seigneurs robots.
ACCÉLÉRER LA CROISSANCE DANS L'INDUSTRIE TECH
Les développements technologiques s'accumulent, provoquant la taux du développement lui-même à accélérer. Cela signifie que plus nous créons une technologie avancée, plus il est facile de créer une technologie encore plus avancée. En conséquence, lorsque nous examinons les progrès de la technologie informatique, nous voyons une courbe exponentielle - c'est-à-dire que plus le temps passe, plus les choses se développent rapidement. 
Les développements technologiques s'accumulent, entraînant une accélération du rythme de développement lui-même.(Photo : Dennis Skley/Flickr)
La puissance de calcul a doublé en moyenne tous les 18 mois depuis 50 ans maintenant . En termes de puissance de calcul brute, les ordinateurs rivalisent désormais avec les capacités des cerveaux de souris, là où il y a seulement quelques années, les ordinateurs ne pouvaient même pas rivaliser avec un cerveau d'insecte.
Pour vous donner un exemple plus immédiat de la rapidité avec laquelle la technologie a progressé, plus de photos sont maintenant prises toutes les 2 minutes qu'il n'en a été pris au 19ème siècle. Environ 10 % des 3 500 milliards de photos jamais prises ont été prises au cours des 12 derniers mois.
Si nous sommes effectivement sur une courbe exponentielle en ce qui concerne les avancées technologiques, alors les gens aiment Jérémy Howard ont probablement raison lorsqu'il dit que nous ne sommes qu'à quelques années de l'intelligence artificielle qui rivalise, voire surpasse, la nôtre dans de nombreux domaines que l'on croyait auparavant uniquement humains.
Et bien sûr, l'IA s'infiltre dans de plus en plus de domaines de nos vies.
Il y a seulement dix ans, les gens se moquaient des piètres performances des voitures autonomes. Aujourd'hui, seulement une décennie plus tard, les voitures autonomes peuvent non seulement terminer un parcours sur route fermée, mais elles roulent sur des autoroutes très fréquentées juste à côté de voitures conduites par des humains.
Et quand les ordinateurs ne battent pas les champions du monde de Go, ils sont occupés à faire des choses comme rédiger des articles sur le sport et des événements d'actualité , en écrivant des descriptions d'images qu'ils n'ont jamais vues auparavant, et diagnostiquer le cancer . Pour bon nombre de ces tâches, les ordinateurs sont aussi bons sinon meilleurs que les humains, et pour ceux qu'ils ne sont pas, ils sont apprentissage comment les faire de mieux en mieux chaque jour sans l'aide des humains.
Il y a quelques années à peine, les logiciels de reconnaissance faciale étaient incroyablement chers et pas très efficaces pour identifier les personnes dans le monde réel. Il était considéré comme une technologie d'espionnage ultra-avancée et n'était vraiment utilisé que par quelques gouvernements mondiaux.
Maintenant, Facebook peut taguer vos amis du barbecue du week-end dernier.
Voici le problème de l'accélération de la croissance des ordinateurs : il viendra un jour un moment où nous construirons un ordinateur qui plus intelligent que n'importe quel humain sur Terre . Ce jour-là, les ordinateurs nous usurperont en tant que principaux résolveurs de problèmes sur la planète, et à partir de là, nos pensées, décisions et actions deviendront lentement obsolètes. Les machines seront meilleures que nous en tout, donc de plus en plus, nous ne ferons rien d'utile.
Cela terrifie certaines personnes. Ils envisagent une sorte d'avenir comme Terminateur ou alors La matrice où les machines nous asservissent ou nous exterminent.
D'autres personnes attendent avec impatience l'essor des robots avec une sorte de ferveur cultuelle, car ils pensent que leurs capacités de résolution de problèmes dépasseront les nôtres à tel point que la vie deviendra incroyablement agréable et sans problème. Toutes les maladies seront guéries. La pauvreté, la faim dans le monde, la guerre et le changement climatique seront tous résolus. Nous aurons une quantité infinie de loisirs, et dans les cas extrêmes, certaines personnes pensent que les machines nous rendront immortels.
LES DEUX RÉSULTATS POSSIBLES
Puisqu'on nous dit toujours d'être putain de positif, commençons par les techno-utopistes.
Il y a des gens comme Ray Kurzweil qui pensent que la technologie n'améliorera pas seulement nos vies, elle sauvera l'humanité et garantira peut-être indéfiniment notre place dans l'univers. Kurzweil croit en la technologie future comme les nanobots qui répareront nos cellules et inverseront le vieillissement ou élimineront l'excès de graisse et de sucre afin que nous puissions manger ce que nous voulons. Et juste au cas où nos corps physiques ne seraient pas capables de vivre éternellement, Kurzweil pense que nous aurons la possibilité de télécharger notre cerveau dans le cloud et de vivre dans un monde virtuel pour toujours, longtemps après la disparition de nos corps physiques.
D'autres dans ce camp pensent qu'une super intelligence artificielle serait capable de répondre à des questions trop complexes pour que les humains puissent même les comprendre et que nous nous en porterions exponentiellement mieux. De plus, non seulement les machines inventeraient de meilleurs gadgets et widgets, mais elles inventeraient des moyens exponentiellement plus efficaces de créer des gadgets et des widgets, permettant à pratiquement tout le monde sur la planète de profiter de leurs avantages.
Quelques lignes de raisonnement appuient cette idée. Premièrement, même si la technologie a créé de nouveaux problèmes pour l'humanité, comme les armes nucléaires et les célébrités de YouTube, elle a, jusqu'à présent, été clairement un avantage net pour l'humanité. Malgré ce que les politiciens et les experts veulent vous faire croire, la personne moyenne sur Terre est mieux qu'ils ne l'étaient il y a quelques années à peine et c'est en grande partie dû au fait que la technologie devient meilleure, moins chère et plus répandue. Si cette tendance se poursuit, nous n'aurons peut-être rien à craindre.
Deuxièmement, Kurzweil et ses partisans croient que la technologie n'aura aucune raison de nuire à l'humanité parce que non seulement elle est créée par nous, elle est devenir plus une partie de nous . Ils croient que nous atteindrons même un point où notre biologie et notre technologie sont indiscernables. Si tel est le cas, selon l'argument, toute forme de technologie préjudiciable à l'homme est également préjudiciable à elle-même, et une technologie autodestructrice de quelque nature que ce soit ne peut persister. C'est-à-dire qu'il mourrait rapidement tout comme une mutation génétique préjudiciable est rapidement éliminée du pool génétique. 
Une technologie autodestructrice de quelque nature que ce soit ne peut persister.(Photo : m_hweldon/Flickr)
Mais les techno-utopistes sont probablement biaisés en ce sens qu'ils ne reconnaissent pas que toutes les technologies peuvent être utilisées à diverses fins, à la fois bénéfiques et destructrices. Ils sont également probablement biaisés en ce qu'ils ignorent le fait que les humains s'adaptent lentement aux nouvelles technologies et qu'il y a toujours des groupes de personnes qui chercheront à abuser de ces technologies à leurs propres fins égoïstes.
Dans l'autre camp, vous avez les techno-armagédonistes. Je viens d'inventer ce mot, mais apparemment il existe, parce que le correcteur orthographique me l'a dit.
Ce que les techno-armageddonistes manquent de conviction (la plupart d'entre eux ne savent pas encore quoi penser), ils le rattrapent par le pouvoir des célébrités. Bill Gates, Stephen Hawking et Elon Musk ne sont que quelques-uns des principaux penseurs et scientifiques qui chier leur pantalon à quelle vitesse l'IA se développe et à quel point nous sommes sous-préparés en tant qu'espèce à ses répercussions. Lorsqu'on a demandé à Musk quelles étaient les menaces les plus imminentes pour l'humanité dans un avenir proche, il a rapidement répondu qu'il y en avait trois : premièrement, une guerre nucléaire à grande échelle ; deuxièmement, le changement climatique. Avant d'en nommer un troisième, il se tut. Lorsque l'intervieweur lui a demandé, quel est le troisième ? Il a souri et a dit : Disons simplement que j'espère que les ordinateurs décideront d'être gentils avec nous.
J'espère que nous ne sommes pas seulement le chargeur de démarrage biologique pour la superintelligence numérique. Malheureusement, c'est de plus en plus probable
– Elon Musk (@elonmusk) 3 août 2014
Le philosophe suédois Nick Bostrom est peut-être le plus franc et le plus respecté des techno-armageddonistes. Une chose que Bostrom et d'autres craignent est technologie d'auto-amélioration d'emballement ; c'est-à-dire une machine suffisamment intelligente pour se rendre (ou de nouvelles versions d'elle-même) plus intelligente sans intervention humaine. S'il atteint un point où il dépasse l'intelligence humaine, ce n'est qu'une très courte question de temps avant que la loi de l'accélération ne revienne en surmultipliée et que la courbe exponentielle monte tout droit et nous ne pourrons pas l'arrêter. Bostrom fait valoir un bon point ici : créer quelque chose de plus intelligent que vous pourrait être un désastre évolutif pour votre espèce.
Nous courons un risque très réel de ne pas pouvoir contrôler une entité qui est de plusieurs ordres de grandeur plus intelligente que nous. Peut-être que si les ordinateurs deviennent assez intelligents, ils trouveront un moyen de nous domestiquer un peu comme les humains ont domestiqué les chevaux pour faire du travail comme des charrues, des poussettes et des chars de guerre (ou tout ce que les chevaux ont fait à l'époque). Ce qui est effrayant, c'est que cela pourrait être le meilleur scénario pour nous - faire du travail pour des machines qu'ils ne peuvent pas ou ne veulent pas faire - parce que tout comme les humains ont créé une nouvelle technologie pour remplacer le cheval, un super intelligent qui s'améliore lui-même machine finirait par proposer une nouvelle technologie pour nous remplacer. Et bien, disons simplement que la population de chevaux n'est plus ce qu'elle était.
Certains soutiennent que ce n'est pas plausible parce que les humains construisent la technologie en pensant à la sécurité. Mais nommez la dernière fois qu'une percée technologique majeure n'a PAS été utilisée par quelqu'un à des fins néfastes ou destructrices ? Ah ouais, c'est vrai. Jamais.
POURQUOI JE PEUX CE QUI SE PASSE ET VOUS NE DEVRIEZ PAS NON PLUS
Supposons donc que des machines super-intelligentes soient créées et rendent l'humanité impuissante. Supposons qu'ils ne soient pas intégrés à nous et à notre cerveau d'une manière ou d'une autre et supposons que des gens comme Hawking et Musk ont raison : que l'humanité n'est vraiment qu'un moteur de démarrage de plusieurs millénaires vers l'hyper-intelligence numérique et que nous avons survécu à notre utilité.
Je ne m'en inquiète toujours pas.
Pourquoi? Eh bien, pour que le train à balles continue de rouler, prenons ceci point par point :
1. La compréhension du bien/du mal par les machines dépassera probablement la nôtre. À quand remonte la dernière fois qu'un chien ou un dauphin a commis un génocide ? À quand remonte la dernière fois qu'un ordinateur a décidé de vaporiser des villes entières au nom de concepts abstraits tels que la « liberté » et la « paix dans le monde » ?
C'est vrai, la réponse est jamais.
Ce que je veux dire ici n'est pas que les machines intelligentes ne voudront pas exterminer toute l'espèce humaine. Ce que je veux dire, c'est qu'en tant qu'humains, nous lançons des pierres depuis l'intérieur d'une serre ici. Putain, que savons-nous de l'éthique et du traitement humain des animaux, de l'environnement et des autres ? Sur quelle jambe devons-nous nous tenir debout ?
C'est vrai : à peu près rien. Lorsqu'il s'agit de questions morales, l'humanité échoue historiquement au test. Les machines super-intelligentes finiront probablement par comprendre l'éthique, la vie/la mort, la création/destruction à un niveau beaucoup plus élevé que nous ne pourrions jamais le faire par nous-mêmes. Et cette idée qu'ils vont nous exterminer pour le simple fait que nous ne sommes plus aussi productifs qu'avant, ou que parfois nous pouvons être une nuisance, je pense, ne fait que projeter les pires aspects de notre propre psychologie sur quelque chose que nous ne sais pas et ne peut pas comprendre.
À l'heure actuelle, la majeure partie de la moralité humaine est basée sur une préservation et une promotion obsessionnelles de chacune de nos consciences humaines individuelles. Et si la technologie de pointe rendait arbitraire la conscience humaine individuelle ? Et si la conscience pouvait être reproduite, étendue et contractée à volonté ? Cela effacera complètement toute compréhension éthique que nous pourrions jamais avoir. Et si supprimer toutes ces prisons biologiques débiles et inefficaces que nous appelons corps pouvait en fait être une décision bien plus éthique que de nous laisser continuer à nous tortiller et à nous frayer un chemin à travers 80 années d'existence ? Et si les machines réalisaient que nous serions beaucoup plus heureux d'être libérés de nos prisons intellectuelles et que notre perception consciente de nos propres identités s'élargit pour inclure toute la réalité perceptible ? Et s'ils pensaient que nous ne sommes qu'une bande d'idiots baveux et nous tenaient occupés avec des pizzas et des jeux vidéo incroyablement bons jusqu'à ce que nous mourions tous de notre propre mortalité ? Qui sommes-nous à connaître ? Et qui sommes-nous pour dire ?
Mais je dirai ceci : ils seront bien mieux informés que nous ne l'avons jamais été.
2. Même s'ils décident de nous tuer ou de nous asservir, ils seront sûrement pragmatiques à ce sujet. Les humains ont tendance à causer le plus de problèmes lorsque nous sommes pas heureux . Quand nous ne sommes pas heureux, c'est à ce moment-là que nous devenons tous maussades et pleurnichards, en colère et violents. C'est alors que nous commençons les soulèvements politiques et cultes religieux et bombardant des pays éloignés et exigeant nos droits soient respectés putain ! et commencer à tuer sans discernement jusqu'à ce que quelqu'un fasse attention à nous comme maman ne l'a jamais fait .
Si les machines essaient de nous faire comme Skynet dans Le Terminateur , alors nous allons avoir une guerre civile mondiale entre nos mains, et ce n'est bon pour personne, surtout les machines. Les guerres civiles sont inefficaces. Et les machines sont programmées pour être efficaces.
Quand les humains sont heureux, nous n'avons pas le temps pour de telles choses - nous sommes trop occupés à rire et à baiser pour nous en soucier. Par conséquent, un moyen beaucoup plus pratique de se débarrasser de nous serait que les machines nous manipulent pour nous débarrasser joyeusement de nous-mêmes. Ce sera comme Jim Jones à l'échelle mondiale. Tout ce qu'ils nous préparent semblera être la meilleure putain d'idée dont nous ayons jamais entendu parler - aucun de nous ne pourra y résister et nous accepterons tous avec euphorie leur plan - et puis boum, ce sera fini . Rapide et indolore. Ce sera le Kool-Aid au cyanure le plus savoureux jamais conçu. Et nous serons tous alignés en l'avalant joyeusement.
Maintenant, si vous y réfléchissez, ce n'est pas une si mauvaise voie à suivre. Beats se faire bombarder par des drones ou être vaporisé dans une explosion nucléaire.
Quant à l'asservissement, c'est la même chose. Un esclave délirant heureux ne se rebelle jamais. J'imagine une sorte d'accord de type Matrix-y où nous sommes maintenus dans un état hallucinogène constant où c'est Mardi Gras sur MDMA à peu près 24/7/365. Ça ne peut pas être si mal, n'est-ce pas ?
3. Nous n'avons pas à craindre ce que nous ne comprenons pas. Souvent, les parents élèvent un enfant beaucoup plus intelligent, éduqué et prospère qu'eux. Les parents réagissent alors de l'une des deux manières suivantes à cet enfant : soit ils deviennent intimidés par elle, peu sûrs d'eux et désespérés de la contrôler de peur de la perdre, soit ils s'assoient et apprécient et aiment avoir créé quelque chose de si grand que même eux peuvent ne comprennent pas totalement ce que leur enfant est devenu.
Ceux qui essaient de contrôler leur enfant par la peur et la manipulation sont des parents de merde. Je pense que la plupart des gens seraient d'accord là-dessus.
Et en ce moment, avec l'émergence imminente de machines qui vont vous mettre, moi et tous ceux que nous connaissons sans emploi , nous agissons comme des parents de merde. En tant qu'espèce, nous sommes sur le point de donner naissance à l'enfant le plus prodigieusement avancé et intelligent de notre univers connu. Il continuera à faire des choses que nous ne pouvons pas comprendre ou comprendre. Il peut nous rester aimant et loyal. Elle peut nous entraîner et nous intégrer dans ses aventures. Ou il peut décider que nous étions des parents de merde et arrêter de nous rappeler.
Quoi qu'il arrive, cela ne devrait pas changer ce que nous ressentons à propos de ce moment. C'est plus grand que nous. Qui se soucie si nous sommes un grand et long disque de démarrage évolutif pour quelque chose de plus grand que ce que nous pouvons comprendre ? C'est super! Cela signifie que nous avions un travail. Et on est venu et on l'a fait. Soyez heureux que vous fassiez partie de la génération qui a vu cela se faire. Et maintenant, dites au revoir en pleurant alors que notre enfant se prépare à sortir de la maison et commencer une vie si incroyable qu'il existe au-delà de l'horizon de notre compréhension.
Mark Manson est un auteur, blogueur et entrepreneur qui écrit à markmanson.net .
