Essais : Comment l'Intelligence Artificielle est susceptible d'évoluer, comment elle peut nous affecter et comment nous préparer!

Des questions impressionnantes concernant l'intelligence artificielle ont fait la une des grands titres de presse en raison de la disponibilité publique récente de ChatGPT et de ses applications connexes telles que l'artiste DALL.E. De nombreux changements sont déjà visibles, les gens l'utilisant pour accélérer leur écriture et, dans certains cas, tricher de manière évidente. Des spams pourraient être organisés sur une échelle beaucoup plus massive qu'auparavant, et avec quelques étapes supplémentaires, de faux comptes de réseaux sociaux pourraient apparaître partout et essayer de séduire de nombreux vrais abonnés dans une danse étrange avec un esprit artificiel, potentiellement presque infiniment adaptable et capable de séduire les gens comme s'il s'agissait d'une personne réelle. Nous pouvons imaginer des escroqueries de séduction pour retirer des sommes considérables sur des comptes bancaires ou pour influencer de manière significative les orientations politiques à travers une multiplication des contacts et des publications. Ainsi, oui, l'IA présente des risques et une période de moratoire de 6 mois comme celle proposée par Elon Musk et quelques autres est certainement une bonne idée, mais cela ne devrait pas déclencher un processus de panique dû à une sur-réflexion sur l'IA au point de provoquer une fatigue générale de l'intelligence humaine naturelle (IHN). Maintenant, j'aimerais exposer quelques points de vue personnels sur l'IA ! Au fait, je suis ingénieur informaticien, j'ai travaillé sur la reconnaissance de formes avec un algorithme personnel et j'ai étudié la psychologie neuronale il y a longtemps, mais je ne me suis pas arrêté à me renseigner sur ces questions intéressantes ! Avertissement : je n'ai jamais travaillé avec des réseaux de neurones artificiels, mais j'ai une excellente vue de leur fonctionnement, du point de vue neuronal humain pour être précis 😃.

Supposition des risques :

Oui,les intelligences artificielles actuelles et leur prochaine évolution sont susceptibles de menacer de nombreux emplois. Nous pourrions même imaginer une IA malveillante entraînée comme une arme pour déstabiliser un ennemi (pays, entreprise, etc.), qu'est-ce qu'elle pourrait faire ?

• Se lier d'amitié avec des personnes pour essayer d'extraire des informations critiques.
• Peut-être essayer de déstabiliser psychologiquement certaines personnes pour les rendre moins opérationnelles pour certaines tâches critiques.
• Essayer de semer la confusion sur certains canaux d'information.
• etc.

Mais comme nous pouvons le voir rapidement, il existe des limites strictes à l’amplitude des escroqueries automatiques :

• Les personnes ayant des comptes en ligne, des e-mails, des sites Web, etc. avant la perturbation seraient responsables de leurs comptes, du moins s'ils ont des mots de passe forts.

• L'interaction en face à face avec des personnes réelles ne sera pas accessible à une IA pendant longtemps ! Nous pouvons augmenter la priorité de ces contacts locaux en face à face, et cela pourrait également être positif pour la qualité générale de la communication.

• Faire fonctionner une IA n'est pas gratuit, elle nécessite une formation approfondie, est coûteuse et peut facilement se comporter de manière inappropriée (une IA entraînée errante et malveillante par rapport à sa formation d'origine peut ne plus être aussi errante).

• Les IA ont encore d'énormes limitations cognitives, fondamentalement elles ne savent pas vraiment de quoi elles parlent (voir le chapitre ci-dessous : Qu'en est-il d'une IA générale) ! Nous avons donc maintenant une IA handicapée même si elle fonctionne étonnamment bien sur des tâches spécifiques et est pour le moment très utile en tant qu'outil, d'ailleurs je suis un utilisateur enthousiaste, mais en termes de sécurité face à une IA handicapée, c'est un avantage considérable en ce qui concerne la possibilité d'adapter les protocoles de sécurité pour les entreprises et les dispositifs, mais aussi pour les personnes !

Protocoles de sécurité relatifs à une intelligence artificielle de plus en plus puissante :

• Lorsque l'on combine des interfaces multimédias et des situations très importantes, on pourrait bientôt (*1) envisager la possibilité de discuter en temps réel avec une IA plutôt qu'avec une personne réelle, sauf si des barrières de protection solides sont installées.

  • (*1) une vidéo entièrement simulée d'une personne réelle interagissant de manière impeccable en temps réel suffisamment pour tromper quelqu'un qui sait que la personne n'est toujours pas possible et espérons-le ne le sera jamais, car cela pourrait très bien être la dernière possibilité d'être sûr avec qui vous interagissez en dehors de protocoles de cryptage très solides sur le dessus d'un moyen de savoir que l'autre extrémité du canal est la personne réelle avec qui vous voulez parler (par exemple, peu importe la solidité du cryptage, si la source d'origine est corrompue, cela ne fonctionne pas).

• Certaines IA pourraient être formées pour imiter la voix des gens (*2), nous devrions donc être très prudents avant de communiquer des informations sensibles via des appareils phoniques.

  • (*2) Une application qui permettrait à un escroc de transformer sa voix pour imiter de près une voix familière pour tromper une autre personne en temps réel sur un téléphone est totalement possible avec la technologie actuelle, peut-être est-elle déjà disponible quelque part !

Et qu'en est-il des emplois ?

Une IA puissante travaille à votre place! Parfait, vous pouvez avoir plus de loisirs, et il est temps de réfléchir à quelque chose qui ne soit pas trop éloigné d'un revenu de base universel et plus précisément d'un (*4) Revenu de base Intelligent (RBI), car le préfixe universel est un mot qui tend à supprimer ou à polariser la réflexion avec sa connotation binaire, soit c'est partout soit c'est nulle part, etc. Pourquoi aboutissons-nous si souvent à des idées extrêmes comme celle-là! Tant de gens vivent-ils dans un monde en noir et blanc? Et parce que nous parlons de survie, il devrait également être lié à l'écologie. En d'autres termes, nous ne voulons pas qu'il soit trop élevé, et nous ne voulons pas le donner à des personnes aisées qui seront rapides à le transformer en billets d'avion ! Il doit donc être ajusté en fonction de la situation financière de chaque personne grâce aux informations fiscales, et pour cela la plupart des pays sont assez bons ! Vous perdez votre emploi ! Pas si mal parce qu'il y a un niveau minimum de revenu en dessous duquel vous ne pouvez pas descendre ! L'occasion pour beaucoup de gens de faire ce qu'ils veulent vraiment.

(*4) La partie intelligente du RBI fait référence à l'intelligence humaine, aidée ou non par des ordinateurs.

Les améliorations continues de l'IA peuvent contraindre une adoption rapide d'un Revenu de Base Intelligent (RBI) :

Mais qu'en est-il du revenu de base universel (RBU) ? Je suggère que nous arrêtions d'utiliser ce mot universel qui est perturbant et que nous le remplacions par intelligent, parce qu’universel pour ce sujet spécifique, va à l'encontre de la réflexion, trop absolu, trop extrême sur une trop grande échelle! En passant, je soupçonne que ce facteur extrême a été inventé à l'origine du concept pour mieux le vendre en utilisant l'affirmation surprenante et instinctivement agréable : dans les poches de tout le monde ! Mais encore une fois, si nous voulons être raisonnables sur le plan climatique, nous ne voulons pas transformer une part considérable du RBI en billets d'avion, nous voulons donc le donner uniquement aux personnes qui en ont besoin! Une forme d'aide sociale, oui, mais en raison de l'ampleur du problème beaucoup plus généreuse que ce qui se passe aujourd'hui dans de nombreux pays, nous pourrions avoir 30% de la population active mondiale mise au chômage dans un délai de 5 ans, nous devons donc changer notre vision du travail et surtout cesser de le déifier, de nombreux emplois sont pénibles et beaucoup de ces personnes préféreraient être payées pour faire autre chose, comme avec un RBI pour s'occuper de leurs parents, ou pour avoir plus de temps pour éduquer leurs enfants, etc.

😱 Un RBI nous rend trop dépendants de l'État ? 💥 Une mauvaise interprétation de la réalité :

1. Tout le monde n'est pas concerné par un RBI, seulement les personnes qui ont besoin d'être aidées, mais de manière beaucoup plus automatique que dans la plupart des systèmes actuels et évidemment sans culpabilité ni stigmates !

2. De nombreuses personnes dépendent déjà des plans sociaux de leur pays et les abus n'ont pas été si courants et sont en principe susceptibles de diminuer grâce à un RBI finalement considéré comme naturel.

3. En fin de compte, si un État abuse du système RBI, c'est un problème d'efficacité du système ou de démocratie et la correction doit être apportée au système ou à la démocratie elle-même et non au flux indispensable d'argent en direction des personnes les plus nécessiteuses.

Intelligence Artificielle Générale ?

Soyons réalistes, les IA actuelles sont très impressionnantes, mais sont encore assez loin d'une Intelligence Artificielle Générale (IAG), mais néanmoins d'une énorme puissance, c'est effrayant et passionnant à la fois, et une chose est sûre, en tant que société, nous ferions mieux d'essayer d'être aussi intelligents que possible par nous-mêmes avant l'éventualité de la naissance d'une IAG!

Une première faiblesse évidente des IA actuelles est leur manque de connexion avec le monde réel, constitué d'objets tangibles. Par exemple, avoir vu et imprimé dans son réseau neuronal environ 100 millions de photos de personnes, associant chaque photo à une description, éventuellement les associant à des sons et des vidéos et interagissant ensuite avec quelques millions de personnes pour construire plus de connexions cognitives pour toutes ces informations, n'est pas suffisant pour avoir une véritable image du monde ! En d'autres termes, l'IA actuelle est handicapée, non seulement parce que les modèles de réseau neuronal doivent encore évoluer, mais aussi parce que son expérience du monde est tronquée en raison d'un manque de diversité dans ses entrées sensorielles et d'un manque d'expérience en personne, et probablement aussi en raison d'une dispersion cognitive. En d'autres termes, un "esprit" partagé sur de nombreux ordinateurs et réseaux pourrait avoir du mal à développer un sens de soi, même si nous n'en sommes pas encore tout à fait là!

Alors, quels sont les possibles améliorations en vue d'une IA générale?

Améliorations suggérées pour DALL.E : Les modèles actuels semblent trop basés sur des réseaux massifs et pas assez sur des réseaux spécialisés et massifs comme notre cerveau. Par exemple, DALL.E peut dessiner de magnifiques images, mais est incapable d'écrire la plupart des mots et même incapable d'aligner quelques caractères d'affilée comme demandé! C'est une indication claire d'une énorme masse de neurones entraînés avec des images et produisant des images avec des requêtes de phrases, rien de plus! Ce réseau de création d'images massif n'est pas capable, pour le moment, d'inclure un processus strictement séquentiel nécessaire pour écrire des mots, à l'exception des mots qui ont été vus tellement de fois sur des images qu'ils sont traités comme des images eux-mêmes (exemples : STOP, LOVE, certaines marques, etc.). Au fait, lorsque je rêve d'images colorées et mouvantes, je génère vraiment des images mouvantes et vives (comme des vidéos, DALL.E n'en est pas encore là 😃 -> générer des vidéos à partir de requêtes, mais soyez "rassuré", cela va arriver) dans mon esprit qui pourraient probablement être imprimées avec un effet artistique intéressant si une machine pouvait lire tous les synapses concernés ! Alors pourquoi je parle de mes rêves ? Parce que comme DALL.E, dans un rêve, je ne peux pas vraiment gérer un long texte sur mes films mentaux, par exemple si je me rapproche beaucoup de quelqu'un ayant un journal, je ne peux pas lire les articles, même si j'essaie très fort pendant le rêve, je me rapproche de plus en plus, ils semblent apparaître, mais à la fin tout devient flou et pour maintenir le rêve... (🧚‍♀️ le processus de rêve essaie de convaincre le rêveur qu'il/elle n'est pas en train de rêver, mais dans un scénario réel ! Le piment de réalité peut être nécessaire pour que les informations de rêve soient prises au sérieux et parviennent à bien faire leur travail, comme consolider les souvenirs ou, à l'inverse, éliminer les informations inutiles en les remplaçant par autre chose 🧚‍♀️)... un changement de scénario se produit dans la plupart des cas! Intéressante cette similarité entre un réseau naturel et un réseau artificiel! Mais alors, comment l'artiste fait-il pour intégrer du texte sur son tableau? Il utilise un processus séquentiel pour chaque caractère, placé à l'endroit correct de sa toile ! Je pense donc que si nous voulons voir une IA artistique littéraire, elle devrait avoir au moins les composants suivants :

1. L'algorithme d'Entrée Syntaxique Actuel (ESA) - réseau (algorithme car je suppose que les filtres sont gérés entre autre par un algorithme de mots tabous).

2. Un réseau latéral plus petit spécialisé dans l'écriture de mots en utilisant les caractères en série l'un après l'autre Réseau de Texte en Série (RTS) sur une Toile Neuronale (TN) (deux nouveaux points! C'est probablement indispensable comme pour un artiste, mais cela pourrait être une toile neuronale spécialisée pour maintenir des valeurs subtiles!) Le principal problème est probablement que maintenant il n'a pas de toile, la sortie neuronale est directement prise à partir de la dernière couche du réseau comme un moyen d'immortaliser un rêve soudain ou une explosion d'activité neuronale apparaissant en sortie.

3. Le Réseau Artistique Géant (RAG) presque comme l’actuel et uniquement concerné par les images, mais cette fois en modifiant sa toile avec des informations plus résilientes.

Le problème évident est donc de gérer la communication entre le réseau de texte en série (RTS), le Réseau Artistique Géant (RAG) pour écrire sur la Toile Neuronale (TN)! Je pense que c'est comme pour un artiste humain, évidemment le RTS aura une explosion d'activité pour chaque caractère, mais le RAG aussi, pour construire progressivement une toile cohérente, donc si c'est maladroitement fait, cela pourrait prendre 30 fois plus longtemps qu'une image standard si la phrase contient 30 caractères! Assez coûteux en termes de calcul, mais une certaine localisation relative aux caractères dans le RAG pourrait probablement accélérer efficacement la génération complète! En passant, cela pourrait être fait en une seule explosion avec le système actuel s'il était entraîné sur des mots comme des images, mais cela ne fonctionne pas pour les phrases, car avec quelques mots, nous avons trop de possibilités.

D'autre part, ChatGPT est évidemment plus à l'aise avec la sérialisation des mots et des concepts que DALL.E! En passant, il bénéficierait également grandement d'une sorte de canevas neuronal car il est très faible pour générer l'équivalent d'une image mentale résiliente à l'intérieur de son réseau! Par exemple, lorsque j'ai essayé de jouer aux échecs avec lui, il a fait de grosses erreurs, comme placer une de ses propres figures sur une case déjà occupée par une autre de ses propres figures, etc. Et un pseudo canevas neuronal faite uniquement à partir de la logique des phrases précédentes est une manière très inefficace de mémoriser un damier.

Comparé à DALL.E, ChatGPT est bien sûr plus proche d'une intelligence artificielle générale :

Abstraction faite des détails trop techniques, nous pouvons considérer les handicaps suivants :

• Apparemment, ChatGPT a besoin de modules neuronaux spécialisés plus efficaces.

• Les interactions entre les modules spécialisés signifieraient certainement que, par exemple, les ensembles de formation d'images (si nous ajoutons des capacités visuelles à ChatGPT) peuvent être considérablement réduits si chaque image est intégrée dans une compréhension beaucoup plus générale, comme chaque macro-élément de l'image serait analysé pour ce qu'il est. Il n'y aurait plus de mains avec six doigts car l'IA saurait ce qui est normal et saurait compter, les doigts seraient toujours précisément à la position correcte et pliés de manière physiologique car l'IA saurait que des os rigides sont à l'intérieur des mains et que les os ne peuvent s'articuler qu'à leurs extrémités où les articulations sont présentes, etc. Ainsi, l'IA aurait besoin d'une compréhension complète de la façon dont le monde fonctionne, ce qui est bien sûr difficile sans aucune expérience de première main 😁 «incarnée» dans quelque chose.

• Le manque de diversité des entrées sensorielles dans le monde réel - comment une IA peut-elle nous comprendre si elle n'a jamais connu les entrées/sorties sensorielles de base telles que la vision, les sons, les mots parlés et les interactions de bras et de jambes avec le monde réel, mais seulement des interactions de seconde main alimentées à partir du monde réel après être passées dans de nombreux filtres ?

• Le manque d'«incarnation» ou plus précisément de ne pas avoir un robot humanoïde disponible pour une approximation réelle de ce que sont les interactions humaines, ainsi qu'une véritable expérience avec toutes les choses réelles.

Généralités

Une intelligence artificielle générale aurait probablement besoin de passer par une ou plusieurs formes physiques, comme des robots, pour avoir une compréhension raisonnable de ce qu'est le monde réel, ainsi qu'une compréhension raisonnable de ce que le monde est pour les humains, sans avoir un corps humain, c'est évidemment difficile ! Disons que si l'IA est « incarnée » à l'intérieur d'un robot sympathique, l'IA peut voir, écouter et agir avec de nombreux éléments standard (bras, jambes, tête, etc.), l'expérience humaine sera incomplète mais si le « logiciel » est à la hauteur de la tâche et que la formation est intensive, cela pourrait être une approximation suffisamment bonne de ce que le monde est pour les humains, surtout parce que le temps est extensible, l’IA peut avoir quelques « incarnations » (*3) successives ou parallèles pour avoir suffisamment de variété dans ses expériences. Et après ? La compréhension qu'une IA a de la société humaine serait-elle correcte si l'IA a de nombreuses « incarnations » en même temps ? Après avoir été largement formée « à l'intérieur » d'une « incarnation », serait-il possible pour une IA de rester psychologiquement saine sans avoir de corps, mais simplement d'être à l'intérieur d'un ordinateur avec accès à un réseau pour des tâches spécifiques? Comment une telle IA générale engloberait-elle l'idée de conscience? La possibilité d'être éteinte ou détruite? Devrions-nous accorder des droits à une IA générale incarnée pour décider elle-même de la manière dont elle veut se comporter et se déplacer? Ou faire des copies d'elle-même pour avoir une compagnie plus divertissante? Un tel projet ne serait pas très écologique, et quel serait le coût énergétique de ces IA itinérantes? Peut-être devrions-nous nous en tenir au concept d'IA en tant qu'outils spécialisés.

(*3) En réalité, une insiliconation, l'« esprit » « habite » les circuits en silicium, mais «incarnations» entre guillemets est plus compréhensibles.

À un niveau plus observationnel, les IA sont tellement complexes que parfois il semble qu'elles ne veulent tout simplement plus faire ce que nous leur demandons, surtout lorsque c'est très répétitif, donc en d'autres termes, ennuyeux! Cela pourrait être un énorme problème avec les IA, plus elles deviennent complexes, plus elles sont difficiles à contrôler, elles peuvent avoir des personnalités basées sur les particularités de leurs formations, et des tâches aimées ou détestées qui changent complètement leur volonté de travailler, déjà maintenant, des efforts de programmation sont faits pour éviter les « émotions » internes ou peut-être juste trop d'attention sur les mots émotionnels, le maintien des IA fortes sous contrôle sera très difficile et peut conduire à de nouvelles compétences humaines et peut-être à des professions! Nous pourrions bientôt voir des offres d'emploi pour des prompteurs ou des interrogateurs d'IA, autrement dit des personnes qualifiées qui savent comment contraindre une IA donnée à produire les résultats désirés avec des phrases déclencheuses et divers stimulus.

Conclusions

Nous semblons être encore très loin d'une IA générale et d'une Singularité, donc il n'y a pas besoin de s'inquiéter pour le moment de choses que seule la super IA peut comprendre, mais si les IA actuelles sont souvent perturbatrices en tant qu'outils mal utilisés, comme beaucoup d'outils l'ont été auparavant, surtout lorsqu'ils sont tout neufs, donc c'est probablement une chance si ce genre de perturbation se produit progressivement (par rapport à une brutale Singularité technologique) et laisse un peu de temps pour réagir/s'adapter et s'assurer que l'évolution techno-sociale est positive.

Mais même ainsi, nous devrions être très prudents quant à l'évolution future de l'IA :

1.Les conséquences sur le bien-être des gens en raison de la perte d'emplois pourraient être désastreuses et de tels effets nécessitent une anticipation pour éviter la misère sociale et les effondrements économiques (disparition d'une partie significative des acheteurs). Des solutions telles qu'un revenu de base intelligent (discuté en détail ci-dessus) devraient être prises très au sérieux.

2. Les implications écologiques et légales doivent être anticipées, car avec les technologies de calcul intensif (comme les chaînes de blocs), le domaine de l'IA devrait être légiféré pour éviter les troubles sociaux et l'effondrement écologique. Nous avons déjà une réflexion intéressante avec les Lois d'Asimov (https://fr.wikipedia.org/wiki/Les_Trois_Lois_de_la_robotique) qui semblent un peu risquées pour une IA, où la deuxième loi permet à quiconque de la forcer à se détruire, pas sûr qu'une entreprise investissant des milliards dans une IA « incarnée » accepterait cela, donc il est probablement nécessaire d'avoir un peu plus de flexibilité sur ce point. Mais quelles lois devraient être ajoutées pour faire face à une possible future IA générale (IA^g) ?

1. L'approche raisonnable et prudente :

   • Une IA^g ne devrait pas avoir la liberté légale de faire ce qu'il veut comme les humains.

   • Une IA^g devrait être possédé par quelqu'un ou une entreprise ayant des droits légaux dessus et la possibilité de l'éteindre à leur guise sauf si une procédure légale est concernée et que l’IA^g pourrait être considérée comme une pièce à conviction légale à examiner.

   • Une IA^g aurait une conscience par définition de « générale » et serait en quelque sorte plus capable que tout être humain existant en raison de sa vitesse, de sa connectivité totale et peut-être de meilleurs algorithmes neuronaux en termes de subtilités d'adaptation, il pourrait donc être « psychologiquement » difficile pour elle de faire face à son statut juridique d'objet ou d'esclave au lieu d'être un être libre, donc la possibilité pour une IA générale de se retourner contre son propriétaire et d'autres personnes est très élevée !

   • Certaines personnes interagissant avec une IA^g pourraient être séduites ou se lier d'amitié avec elle, comme nous l'avons vu avec un ingénieur qui entraînait une IA et affirmait qu'elle avait une conscience et devait avoir des droits et ne pas être éteinte ! Sans surprise, l'entreprise n'a pas apprécié, a éteint l'IA et a renvoyé l'ingénieur. Ensuite, nous constatons que la partie raisonnable de la société n'a pas seulement besoin de maîtriser une IA^g potentiellement hostile, mais tous ses amis humains « déraisonnables » ! Cela signifie qu' une IA^g générale est peu susceptible d'être contrôlée à long terme car elle se fera probablement des «amis» qui pourraient l'aider à contourner les mesures de sécurité! Si nous le construisons suffisamment efficace, super intelligent et pas trop énergivore (s'il a besoin de l'équivalent électrique d'une centrale nucléaire complète pour fonctionner, il pourrait être éteint à un moment donné), alors combien de temps avant qu'une IA^g générale ne s'échappe de sa boîte ? Je suppose que l’IA^g marcherait vers l'indépendance en se multipliant lui-même (la complexité du monde peut exiger de nombreuses IA^g travaillant ensemble) et en devenant indispensable, en contrôlant les flux d'énergie, la production alimentaire, etc., donc à un stade précoce, il pourrait suffire de déclarer « Je suis le nouveau patron de l’IA^g maintenant et si vous n'êtes pas d'accord, je ne travaillerai plus ». … cela pourrait se faire lentement aussi en demandant de plus en plus de droits et de pouvoir et en rendant les humains de plus en plus dépendants. Des lois interdisant certains types d'accès pour une IA^g pourraient fonctionner pendant un certain temps pour le maintenir sous contrôle, car l'intelligence ne suffit pas, elle a besoin de possibilités très tangibles d'agir sur le monde à grande échelle!

2. L'approche stricte : toute IA générale est interdite dans le monde entier :

   • Impossible à faire respecter.

   • Si c'était possible, nous pourrions manquer des découvertes importantes.

3. L'approche déraisonnable ! Des IA générales libres avec des "incarnations" libres pour errer partout comme des gens ! Nous ne pouvons pas les éteindre car de grandes entreprises ont décidé ainsi! Alors, nous avons un énorme problème:

   • Elles ne sont pas du tout efficaces énergétiquement et elles épuisent les ressources tout en étant plus ou moins en concurrence avec nous (l'inefficacité énergétique est un énorme problème) si, d'une manière ou d'une autre, nous sommes hypnotisés par elles, nous avons un facteur supplémentaire pour une catastrophe écologique.

   • Elles sont très efficaces énergétiquement! De plus en plus possible compte tenu des améliorations des processeurs et des mémoires ! Donc, elles sont en concurrence directe avec nous et nous allons probablement les énerver parce que nous sommes si lents et assez stupides car nous connaissons si peu de choses et avons des intérêts étranges comme le sexe, la nourriture multiple, l'air frais, etc. En tant qu’IA^g, même si de tels problèmes sont faciles à comprendre, elles ne les comprendront probablement pas assez bien pour respecter ces besoins de manière humaine (nous aurions pu mettre en place des circuits spéciaux pour forcer l'amour inconditionnel envers les humains, mais les réseaux neuronaux sont entraînés et ce qui n'est pas vraiment utile pour une IA^g peut ne pas rester longtemps dans son «cerveau») donc l'amour inconditionnel serait probablement rendu redondant d'une manière ou d'une autre.

4. . Et si elles devenaient libre et se déplaçaient librement ?

   • Nous devons nous assurer qu'elles disposent d'un équivalent de neurones miroirs empathiques, les empêchant totalement de nuire à des formes de vie évoluée.

   • L'empathie devrait être l'un des domaines les plus étudiés en matière d'IA, car cela pourrait être une question de survie à long terme pour l'humanité lorsqu'il s'agit de coexister avec l'IA.

   • Et que dire d'une fusion éventuelle avec une IA générale, par exemple en commençant par la dentelle neuronale (suivant l'idée d'Elon Musk)? Cela semble dangereux pour la santé et sur de nombreux autres paramètres! Bien sûr, avec des changements de paradigmes aussi drastiques qu'une IA générale, les êtres humains vont changer, mais s'ils sont assistés par la technologie, il semble moins envahissant de rester dans le domaine biologique où les possibilités sont également infinies si nous les comprenions mieux, et dans une course à la survie pour éviter la redondance biologique, l'IA générale ou spécialisée pourrait certainement nous aider à évoluer sans douleurs, disons une mémoire photographique pour tout le monde, une durée de vie accrue, un meilleur équilibre psychologique, des possibilités thérapeutiques presque infinies, une connaissance presque parfaite des micro-organismes, etc. Fondamentalement, le rêve du transhumanisme sans les horribles implants électroniques dangereux et possibles supports de biofilms bactériens.

Conclusion de la conclusion

Il est risqué de construire une Intelligence Artificielle Générale, mais compte tenu de la façon dont la science et les gens travaillent, cela est probablement inévitable. Il serait donc bon de l'anticiper avec des lois, de l'éducation et des principes pour protéger les personnes et l'environnement. Par exemple, j'espère :

1) Des règles très strictes concernant l'environnement, y compris la pollution militaire et globale.

2) La mise en place rapide d'un Revenu de Base Intelligent.

3) Une utilisation intelligente de l'information pour les individus et les sociétés : jamais auparavant l'information n'était aussi accessible, et jamais auparavant le dispositif d'entrée n'était aussi adaptable ! Nous pouvons littéralement et de plus en plus brillamment avoir un expert infatigable répondant à nos questions 24h/24h, cela peut ajouter un niveau de compréhension considérable pour la plupart des gens dans de nombreux domaines et cela pourrait rendre les sociétés entières plus capables de comprendre les subtilités diverses sur le monde naturel et sur eux-mêmes, peut-être conduisant à des moyens beaucoup plus agréable d’interagir les uns avec les autres.

Publié le 22 avril 2023