L'avancement de l'intelligence artificielle pourrait conduire à la fin de l'existence humaine telle que nous la connaissons, selon une lettre ouverte extrêmement brève publiée hier (30 mai) et signée par de grands dirigeants de la technologie, des scientifiques de l'IA, des universitaires et, de manière quelque peu incongrue, le musicien Grimes .
'Atténuer les risques d'extinction de l'I.A. devrait être une priorité mondiale aux côtés d'autres risques à l'échelle de la société tels que les pandémies et la guerre nucléaire », déclaration lit. Il a été publié par le Center for A.I. Safety (CAIS), une organisation à but non lucratif axée sur la protection du déploiement de la technologie.
Le bref avertissement, qui ne comprenait pas d'informations contextuelles concernant sa grave supposition, fait suite à deux récentes lettres ouvertes faisant allusion aux dangers potentiels posés par A.I. recherche et mise en œuvre.
En mars, plus de 1 000 experts de l'industrie, dont Elon Musk et le co-fondateur d'Apple Steve Wozniak signé une lettre appelant à une pause de six mois sur A.I. développement pour étudier les risques et élaborer des protocoles de sécurité. Le mois suivant, une autre lettre a été publiée par des membres de l'Association pour l'avancement de l'intelligence artificielle, y compris Microsoft Le directeur scientifique d'Eric Horvitz, mettant en garde contre la capacité de l'IA à autonomiser les mauvais acteurs.
combien a coûté la fabrication de wonder woman
L'urgence des deux messages précédents est pâle par rapport à celle de la déclaration succincte du CAIS, qui prétend que son objectif est de 'créer une connaissance commune du nombre croissant d'experts et de personnalités publiques qui prennent également au sérieux certains des risques les plus graves de l'IA avancée. ”
Au-delà de Grimes, d'autres partisans inattendus de la lettre incluent le podcasteur Sam Harris, le directeur de TED Chris Anderson et Kersti Kaljulaid, l'ancienne présidente de la République d'Estonie. Les signataires qui se démarquent, cependant, ne sont pas ceux qui semblent hors de propos, mais plutôt ceux qui ont construit des carrières à partir de la technologie même dont ils avertissent maintenant qu'elle pourrait provoquer l'extinction.
Sam Altman, PDG d'OpenAI
Sam Altman, responsable du créateur de ChatGPT OpenAI , a signé la lettre aux côtés des co-fondateurs Ilya Sutskever, John Schulman et trois autres dirigeants d'OpenAI.
Lancé pour la première fois en 2015 en tant qu'association à but non lucratif visant à développer l'I.A. de manière sûre, l'entreprise a pivoté vers un hybride modèle de 'profit plafonné' en 2019. En novembre, il a publié A.I. chatbot ChatGPT, qui est rapidement devenu viral et a suscité des inquiétudes quant à son potentiel de rédiger des devoirs scolaires et remplacer la main-d'oeuvre.
La valorisation boursière d'OpenAI était entre 27 et 29 milliards de dollars dès avril.
Malgré son soutien à l'avertissement urgent de la lettre, Altman a précédemment salué la montée en puissance d'IA de plus en plus sophistiquées. systèmes. « Cette révolution va créer une richesse phénoménale », a-t-il déclaré dans un article de blog 2021 . 'Le prix de nombreux types de travail (qui entraînent les coûts des biens et services) tombera vers zéro une fois qu'une IA suffisamment puissante' rejoindra la main-d'œuvre '.'
Geoffrey Hinton, IA pionnier
Deux membres d'un trio d'informaticiens connus comme les 'parrains de l'IA'. ont également promis leur soutien à la lettre récente.
Les signataires Geoffrey Hinton et Yoshua Bengio ont travaillé dans l'A.I. pendant des décennies et, avec Yann LeCun, a contribué à jeter les bases du développement de la technologie. Les trois ont reçu le prix Turing en 2018.
Hinton et Bengio, actuellement professeurs à l'Université de Toronto et à l'Université de Montréal respectivement, ont tous deux exprimé leurs inquiétudes quant aux progrès de l'IA.
Plus tôt ce mois-ci, Hinton a déclaré au New York Times il a quitté son emploi à Google dénoncer les risques de l'I.A. ., ajoutant qu'il regrette maintenant le travail de sa vie. 'Il est difficile de voir comment vous pouvez empêcher les mauvais acteurs de l'utiliser pour de mauvaises choses', a-t-il déclaré.
Bengio exprimé des sentiments similaires pour Bbc Aujourd'hui (31 mai), révéler la menace d'A.I. l'a fait remettre en question ses années de recherche. 'On pourrait dire que je me sens perdu', a-t-il déclaré.
Pendant ce temps, LeCun, le chef A.I. scientifique de Meta, a choisi de ne pas signer la lettre.
Demis Hassabis, PDG de Google DeepMind
Plusieurs employés de Google, dont plus d'une dizaine travaillant pour son machine learning A.I. startup DeepMind, sont signataires de la déclaration. La liste comprend le PDG et co-fondateur de DeepMind, Demis Hassabis, qui travaillait auparavant comme A.I. programmeur de jeux vidéo chez Lionhead et Elixir.
DeepMind a été acheté par Google en 2014 pour environ 500 millions de dollars. Hassabis a exhorté l'entreprise à procéder avec prudence et affirme que l'intelligence générale artificielle (A.G.I), un terme faisant référence aux ordinateurs dotés de capacités cognitives comparables à celles des êtres humains, pourrait voir le jour au cours de la prochaine décennie .
« Je préconiserais pas aller vite et casser des choses », Hassabi dit Temps en janvier, ajoutant qu'il pensait que les bénéfices d'A.G.I. doit être redistribué équitablement.
Cependant, la division de Hassabis a pris de l'ampleur au cours des derniers mois. Google DeepMind a été formé en avril, après que Google a combiné les divisions axées sur l'IA DeepMind et Brain pour ' accélérer les progrès vers un monde où l'IA peut aider à résoudre les plus grands défis auxquels l'humanité est confrontée .” Et plus tôt cette année, Google annoncé dans ses résultats du quatrième trimestre 2022 que les informations financières de DeepMind seront désormais présentées dans les coûts d'entreprise d'Alphabet, car elles sont de plus en plus utilisées par l'entreprise.
date de décès de jerry lewis
Grimes, musicien et producteur
Grimes, la musicienne éclectique et ancienne partenaire amoureuse du co-fondateur d'OpenAI Musk, a expérimenté la technologie tout au long de sa carrière, notamment en l'utilisant pour créer un I.A. berceuse pour son fils Et un I.A. chatbot formé de ses propres manières.
'Je pense qu'A.I. c'est génial », a-t-elle déclaré au New York Times. 'J'ai juste l'impression que, de manière créative, je pense que A.I. peut remplacer les humains.
L'I.A. la plus récente. projet de Grimes, de son vrai nom Claire Boucher, est sorti ce mois-ci sous la forme d'Elf.Tech, un I.A. logiciel qui permet aux fans de dupliquer sa voix pour créer leurs propres chansons. 'J'aime l'idée d'ouvrir toutes les œuvres d'art et de tuer le droit d'auteur', a tweeté l'artiste, qui offre une répartition des redevances de 50% pour les chansons à succès issues de l'A.I. programme.
Dario Amodei, PDG d'Anthropic
Anthropique Dario Amodei de Dario Amodei a soutenu la déclaration aux côtés des co-fondateurs Jared Kaplan et Chris Olah. Sa sœur Daniela Amodei, présidente d'Anthropic, a également signé la lettre.
Amodei a précédemment travaillé chez Google, Baidu et OpenAI avant de quitter cette dernière société en 2020 pour diriger sa propre A.I. Commencez, qui était évalué à 4,1 milliards de dollars en mars .
La startup soutenue par Google a également a levé 450 millions de dollars lors d'une ronde de financement ce mois-ci, le plus grand A.I. cycle de financement en 2023 depuis l'investissement OpenAI de Microsoft plus tôt cette année.
Le produit principal d'Anthropic est Claude, un chatbot qu'il a commencé à tester en janvier avec un groupe restreint d'utilisateurs. Claude a été formé avec un ensemble de directives morales afin d'éviter des réponses offensantes de l'A.I. outil de chat, qui s'inspire de la Déclaration des droits de l'homme des Nations Unies et des règles de confidentialité des données d'Apple. Le processus de création d'un 'A.I. inoffensif' par la startup. assistant » a été présenté dans un Livre blanc de décembre .
Plus tôt ce mois-ci, aux côtés d'autres A.I. Des PDG comme Altman, Amodei a rencontré le président Biden pour discuter de la manière de mettre en œuvre les réglementations dans l'A.I. l'industrie pour atténuer ses risques.
Kevin Scott, directeur technique chez Microsoft
Les dirigeants d'A.I. la centrale Microsoft a également signé la lettre, y compris le directeur de la technologie de la société, Kevin Scott.
Microsoft est un investisseur dans OpenAI, un partenariat prolongé en janvier dans le cadre d'un accord de plusieurs milliards de dollars. Il alimente son moteur de recherche Bing avec ChatGPT.
Scott, qui a dit que 2023 sera 't a année la plus excitante que l'A.I. communauté n'a jamais eu, ” affirme que Microsoft améliore son A.I. responsable. processus conçus pour atténuer les dommages de la technologie.
Mais malgré la signature d'une déclaration affirmant qu'A.I. a le potentiel de détruire la civilisation humaine, Scott est l'auteur du livre de 2020 Reprogrammer le rêve américain , qui soutient que A.I. peut révolutionner l'entrepreneuriat dans les villes rurales. Microsoft s'est également fortement concentré sur A.I. ces derniers mois, prétendant la poussée se traduira par une augmentation des profits pour l'entreprise dans le temps.
Qu'est-ce qu'une autre lettre ouverte accomplira ?
Le fait que tant de signataires aient des liens financiers avec A.I. entreprises de recherche et développement a conduit certains à se demander si les récents appels à la prudence sont un coup de pub ou peut-être un moyen d'obtenir un avantage concurrentiel dans une industrie de plus en plus encombrée.
Plus tôt ce mois-ci, le CTO de Microsoft a été interrogé sur l'équilibre entre le grand A.I. les entreprises à la recherche de réglementations qui ne font que les favoriser et un paysage réglementaire composé de petites start-ups compétitives. 'Je pense que nous devrions avoir les deux', a déclaré Scott Bord . 'Je ne pense pas qu'il y ait une chose a priori où l'un exclut l'autre.'
Altman a également appelé à plus de réglementation dans l'A.I. l'industrie, exprimant des inquiétudes quant au fait que la technologie pourrait être exploitée par des régimes autoritaires ou utilisée pour des cyberattaques, mais son désir de surveillance réglementaire semble être sélectif, comme Altman l'a également fait auparavant a affirmé qu'OpenAI pourrait quitter l'U.E. en raison du potentiel de « surréglementation » de l'I.A. dans la région.
Se concentrant sur les conséquences bouleversantes mais improbables de l'I.A. la mise en œuvre détourne l'attention des régulateurs des risques réels posés par l'intelligence artificielle, a suggéré Ryan Calo, professeur de droit à l'Université de Washington dans une série de tweets . « S'attaquer aux impacts immédiats de l'IA sur le travail, la vie privée ou l'environnement coûte cher. Se protéger contre l'IA n'est en quelque sorte pas 'se réveiller'.
