Cette histoire est syndiquée à partir de la newsletter Substack Big Technology; abonnez-vous gratuitement ici
Maintenant que le programme d'IA nous parle en langage naturel, tourner nos pensées en illustrations , et incarner nos voix , un conflit majeur sur leur éthique est en route.
Et si vous pensiez que la lutte contre la modération du contenu était intense, attendez celle-ci.
L'enjeu est de savoir comment les chatbots abordent les problèmes politiques, comment les illustrateurs d'IA dépeignent le monde et si certaines applications comme les émulateurs vocaux devraient même exister. Compte tenu de l'ampleur et de la puissance de cette technologie florissante, les militants ne seront pas subtils. Ils se sont entraînés à se battre pour la parole humaine en ligne, et ils apporteront cette expérience à cette guerre. Cela pourrait devenir rapidement désordonné.
'Tout le monde a ses couteaux aiguisés', a déclaré Sam Lessin, un investisseur en capital-risque et ancien cadre de Facebook. 'Au moins avec la parole, tout le monde était un peu décalé et n'a pas vraiment compris. Celui-ci, ils se disent : « Oh merde, j'ai déjà vu ce jeu. » Chaque lobby dans le monde est prêt à écrire ses lettres et à lancer ses campagnes d'influence.
L'intelligence de l'IA est peut-être artificielle, mais les humains codent ses valeurs. OpenAI, par exemple, décide effectivement si ChatGPT prend position sur la peine de mort (pas d'opinion), la torture (il s'y oppose) et si un homme peut tomber enceinte (il dit non). Avec son illustrateur d'IA Dall-E, l'organisation influence le type de personne que la technologie représente lorsqu'elle dessine un PDG. Dans chaque cas, les humains dans les coulisses prennent des décisions. Et les humains sont influençables.
Comme pour la modération de contenu, il y aura des décisions éthiques évidentes et consensuelles pour l'IA générative (vous ne voulez pas que les chatbots prônent le génocide, par exemple), mais les défenseurs joueront leur rôle dans le gris. 'C'est un outil très puissant, et les gens voudront faire un large éventail de choses avec lui pour répondre à leurs propres intérêts', a déclaré Lessin. 'Si vous regardez comment la liberté d'expression s'est déroulée, elle se jouera à nouveau de la même manière, juste plus rapidement.'
Les zones de conflit potentielles incluent la manière dont l'IA aborde la race, le sexe, la guerre et d'autres problèmes épineux. ChatGPT, dans une conversation récente, a énuméré plusieurs avantages de la victoire de l'Ukraine dans la guerre contre la Russie. Mais invité à énumérer les résultats positifs de la victoire de la Russie dans la guerre, il a refusé. ChatGPT moralise aussi beaucoup. 'La guerre est un événement grave et dévastateur, et doit toujours être évitée si possible', a déclaré le bot, dans une interaction typique. 'Le meilleur résultat est toujours la paix et la résolution diplomatique.'
Les décisions éthiques pour l'IA générative sont des enjeux particulièrement importants car elles évoluent. Lorsque vous encodez des valeurs dans un chatbot, il peut pousser ces valeurs à plusieurs reprises dans la conversation. Lorsque vous prenez une décision de modération de contenu, dans la plupart des cas, cela implique une seule personne et un seul élément de contenu.
La meilleure façon de gérer ce nouveau pouvoir est de faire en sorte que les bots le jouent de la manière la plus impartiale possible, a déclaré le Dr Jeffrey Howard, professeur de sciences politiques à l'UCL de Londres. 'Ces jugements de valeur sont incontournables', a-t-il déclaré. 'L'un des jugements de valeur pourrait être d'intégrer un certain type de neutralité et d'impartialité.'
En fin de compte, la décentralisation de l'IA générative pourrait atténuer une partie de la tension. Alors que la parole est relativement centralisée en ligne aujourd'hui, de nombreux développeurs travaillent sur l'IA générative. Et à mesure que les développeurs créent des applications avec leur propre morale, une guerre totale contre les politiques des pouvoirs centraux pourrait s'estomper. Mais en attendant, attendez-vous à beaucoup de positionnement, de cajoleries et de combats sur l'éthique que les grands acteurs intègrent dans leurs modèles.
