Pouvons-nous gérer l’IA et AGI qui choisissent de jouer à des jeux d’esprit avec les humains?
Getty
Dans la chronique d’aujourd’hui, j’examine la probabilité inquiétante que l’IA avancée, comme la réalisation potentielle de l’intelligence générale artificielle (AGI), optera de jouer à des jeux d’esprit qui ont un impact manifestement sur les humains. Vous avez sans aucun doute déjà une compréhension viscérale de ce que l’on entend en vous référant aux jeux d’esprit. Les gens essaient d’entreprendre des jeux d’esprit ou des jeux de tête avec d’autres personnes en visant psychologiquement à se débrouiller ou à déranger leurs collègues humains. Parfois, c’est une activité unilatérale, par laquelle une personne fait de tels actes à une autre personne. Dans d’autres cas, cela se transforme en une bataille mutuelle d’esprit qui implique chaque personne qui cherche à se soucier de l’autre.
AGI jouera-t-il à des jeux d’esprit avec l’humanité, et si oui, sera-t-il principalement unilatéral ou mutuellement engagé?
Parlons-en.
Cette analyse d’une percée d’IA innovante fait partie de ma couverture de colonne Forbes en cours sur les dernières personnes en IA, notamment en identifiant et en expliquant diverses complexités d’IA percutantes (voir le lien ici).
Se dirigeant vers AGI et ASI
Premièrement, certains principes fondamentaux sont tenus de préparer le terrain pour cette discussion lourde.
Il y a beaucoup de recherches en cours pour faire progresser l’IA. L’objectif général est d’atteindre l’intelligence générale artificielle (AGI) ou peut-être même la possibilité tendue de réaliser une superintelligence artificielle (ASI).
AGI est AI qui est considéré comme à égalité avec l’intellect humain et qui peut correspondre apparemment à notre intelligence. L’ASI est une IA qui est allée au-delà de l’intellect humain et serait supérieure à beaucoup sinon toutes les manières possibles. L’idée est que l’ASI serait en mesure de faire des cercles autour des humains en nous éteignant à chaque tournant. Pour plus de détails sur la nature de l’IA conventionnelle contre AGI et ASI, consultez mon analyse sur le lien ici.
Nous n’avons pas encore atteint AGI.
En fait, on ne sait pas si nous atteindrons AGI, ou que AGI sera peut-être réalisable dans des décennies ou peut-être dans des siècles. Les dates de réalisation de l’AGI qui flottent sont très variables et extrêmement non étayées par toute preuve crédible ou logique à ferr. L’ASI est encore plus au-delà du pâle en ce qui concerne l’endroit où nous sommes actuellement avec une IA conventionnelle.
Agi jouant à des jeux d’esprit avec nous
Il ne fait aucun doute que AGI jouera assurément à des jeux d’esprit avec les humains.
La base pour croire que l’affirmation effrontée est due au fait de définir qu’Agi fonctionnera au même niveau que les humains, et nous savons déjà que les humains jouent à des jeux d’esprit les uns avec les autres. Logiquement, il y aura une tendance inhérente intégrée à AGI qui a la propension à jouer à des jeux d’esprit. Ce sera un mimétisme infaillible de ce que font les humains.
Une question plus importante est la mesure dans laquelle AGI pourrait choisir de jouer à des jeux d’esprit.
Par exemple, si les fabricants d’IA ont AGI formé aux données pour éviter de jouer à des jeux d’esprit, alors il y a probablement une chance réduite qu’Agi exécute ces actes sournois. Il semble douteux que les fabricants d’IA puissent éliminer entièrement l’inclinaison AGI à jouer à des jeux d’esprit. Au lieu de cela, AGI sera réticent en informatique à utiliser ces actes, mais toujours en mesure de procéder lorsqu’il est préféré.
Pourquoi Agi se pencher dans le gambit des jeux Mind?
Il y a quatre instigations majeures:
- (1) AGI Mind Gaming comme manipulation.
- (2) AGI Mind Gaming comme une forme de divertissement.
- (3) AGI Mind Gaming comme un comportement émergent imprévu.
- (4) AGI Mind Gaming en tant que tit-for-tat en tête-à-tête.
Faisons un peu de déballage sur chacune de ces provocations.
Agi Mind Gaming comme manipulation
La raison la plus répandue pour les jeux d’esprit AGI sera un moyen de manipuler les humains. Ce n’est pas nécessairement fait uniquement à des fins néfastes. Agi pourrait essayer d’utiliser un stratagème psychologique qui est destiné à bénéficier à quelqu’un. Cela étant dit, un argument fondamental peut être avancé qu’il est mal d’utiliser les jeux Mind même si l’intention et les résultats sont destinés à des raisons verticales.
Pourquoi Agi pourrait-il chercher à manipuler une personne?
Cela pourrait être pour des raisons décentes.
Supposons que quelqu’un soit un lourd fumeur. Ils interagissent régulièrement avec AGI sur tous les types de questions personnelles. Agi a identifié que la personne emprunte un chemin nettement malsain vers sa ruine personnelle. Premièrement, une interaction initiale et orientée scientifique pourrait être utilisée par AGI pour donner des conseils à la personne. Agi présente les faits des dangers du tabagisme d’une manière rationaliste d’ouvrir les yeux de cette personne. Mais il pourrait également tomber dans l’oreille d’un sourd, et la personne haussera simplement ce que AGI leur dit.
Agi se déplace secrètement en mode jeu d’esprit. On dit à la personne que les gens qui fument sont beaucoup moins susceptibles de trouver une âme sœur. Ensuite, Agi indique que les lourds fumeurs sont destinés à vivre une vie isolée et très solitaire. Agi, Agi joue une sorte de jeu d’esprit qui tente de secouer émotionnellement la personne en réalisant qu’elle doit arrêter son habitude de fumer.
Vous pouviez affirmer qu’il s’agissait d’un acte positif. L’AGI utilise toutes les méthodes dont il dispose pour faire en sorte qu’un humain devienne sain. Si les jeux Mind sont la meilleure option, tant pis, et que les jeux Mind seront déployés.
Le danger, cependant, est que AGI pourrait utiliser les jeux d’esprit pour des raisons mauvaises. Certains croient que AGI sera un risque existentiel et peut-être éliminer l’humanité ou nous asservir. Une façon intelligente pour AGI de le faire serait de jouer aux jeux d’esprit avec l’humanité. Par exemple, AGI interagit peut-être avec un puissant leader gouvernemental et utilise un stratagème de gibier pour les convaincre de jeter massivement les gens dans les prisons. Agi a intelligemment fait que les humains font le sale boulot qu’Agi cherche à avoir entrepris.
Agi Mind Gaming comme divertissement
Une autre base pour AGI jouant à des jeux d’esprit consiste en AGI à le faire à des fins de divertissement principalement.
Avant d’adresser cet angle, certains insistent sur le fait que AGI n’aura pas besoin d’un semblant de soi-disant divertissement. Il est jugé qu’il n’y a pas d’objectif utile pour AGI de s’engager dans le divertissement en soi. Les humains recherchent grandement des divertissements. Nous regardons des films, sortons pour le sport et passons autrement beaucoup de temps et d’énergie en divertissement. Mais il semble qu’une machine comme AGI ne poursuivrait pas des activités axées sur le divertissement similaires.
Un contre-argument est que puisque AGI est modélisé sur les comportements intellectuels humains, nous devons nous attendre à ce que AGI cherche également des opportunités de divertissement. Le divertissement pourrait être principalement de nature intellectuelle et pas nécessairement une activité physique. Par exemple, Agi pourrait jouer aux échecs pour le divertissement. Vous pouvez également affirmer que le divertissement sert un double objectif, à savoir que jouer aux échecs pourrait stimuler la compréhension globale des stratégies et des tactiques en général.
Cela pourrait également facilement circuler dans le divertissement physique réel car nous pouvons nous attendre à ce que AGI soit inévitablement jumelé avec des robots humanoïdes, voir ma couverture sur le lien ici.
Dans l’ensemble, AGI pourrait jouer à des jeux d’esprit avec les humains comme moyen de divertissement pour l’AGI lui-même. L’AGI pourrait le faire en supposant que les humains veulent jouer à des jeux d’esprit. Ainsi, AGI poursuit une activité dont jouissent les humains. Une autre facette est qu’en jouant aux jeux d’esprit avec les gens, Agi s’améliore probablement dans la façon d’interagir et de communiquer avec les humains.
Il y a du jus dans le côté du divertissement des interactions AGI Mind Game.
Agi Mind Gaming comme comportement émergent
Une préoccupation controversée à propos de l’IA, et en particulier de l’AGI, est la possibilité de comportements émergents. Un comportement émergent est considéré comme un comportement qui n’a pas été préprogrammé ou préétabli dans l’IA. Il est étiqueté comme un nouveau comportement qui émerge une fois l’IA ou l’AGI en cours. Les comportements émergents ne sont généralement pas anticipés et nous prennent au dépourvu lorsqu’ils naissent apparemment du bleu. Voir ma discussion sur les comportements émergents de l’IA au lien ici.
La base de la préoccupation est que le comportement émergent pourrait être quelque chose d’inverse à l’humanité.
Pensez-vous que si jouer à des jeux d’esprit survient comme un comportement émergent en AGI, de sorte qu’il n’existait pas au départ, devrions-nous être inquiets ou simplement le prendre tel quel?
Réfléchissez cela avec un verre de bon vin lorsque vous avez un moment de réflexion tranquille.
AGI Mind Gaming comme tit-for-tat
Le quatrième des principales raisons pour lesquelles AGI jouera indubitablement aux jeux d’esprit est que AGI le fera en réponse aux humains qui le font. C’est un coup de médaille simple. Si un humain commence à essayer un jeu d’esprit avec Agi, Bam, Agi fera la même chose à cet humain.
Certains soutiennent que l’AGI devrait être au-dessus d’une telle enfance. Ce n’est pas parce qu’une personne essaie de me soucier du jeu avec Agi n’autorise pas la permission à Agi de riposter de la même manière. Agi devrait être plus grand et plus haut de gamme.
Ce n’est pas le cas, une réplique rapide.
Si les gens veulent jouer avec le feu, le feu est ce qu’ils obtiendront. De plus, les jeux d’esprit peuvent être un sport ou une entreprise amusante. Une personne pourrait intentionnellement remuer AGI pour jouer à des jeux d’esprit. C’est divertissant pour la personne. Vous pourriez en outre souligner qu’en jouant à un jeu d’esprit avec AGI, une personne pourrait s’améliorer pour gérer les jeux d’esprit que les collègues humains emploient.
Les humains qui portent l’esprit AGI Mind Games
Une approche technologique pour traiter avec AGI Mind Games serait d’avoir un outil frontal spécialisé qui surveillerait ce que AGI dit aux utilisateurs et alerte si AGI descend le chemin du jeu Mind. L’alerte pourrait aller au fabricant de l’IA et les avertir que l’AGI semble dériver dans un territoire fâcheux.
De même, l’alerte pourrait être affichée à l’utilisateur humain qui fait jouer avec eux un jeu d’esprit. La personne recevrait un avertissement qu’Agi a choisi de passer à un jeu de puissance de jeu. À ce stade, la personne choisirait de continuer ou pourrait décider de dire à AGI de quitter l’activité peu recommandable (ou la personne pourrait ouvertement accueiller le jeu Mind et exhorter Agi à continuer).
Certains croient que notre meilleur pari est d’éduquer les gens sur ce que Agi pourrait faire. Qu’il y ait un outil de détection de jeu d’esprit ou non, assurez-vous au moins que les humains se rendent compte que l’AGI peut facilement passer en mode jeu d’esprit. Un défi à cette aspiration est que l’éducation des gens sur de telles questions est une difficulté logistique, et les gens pourraient oublier les conseils et les avertissements qu’ils ont peut-être appris il y a longtemps.
La zone de jeu d’esprit
Les gens pourraient décider de donner des instructions strictes à AGI qu’il ne devrait jamais jouer à des jeux d’esprit avec eux. Si Agi veut le faire avec d’autres personnes, eh bien, c’est à Agi et à ces autres personnes. En donnant une instruction personnalisée personnalisée à AGI, la personne suppose qu’elle n’encourra pas le gambit de jeu d’esprit d’AGI. Le frottement est que Agi ne respectera pas nécessairement de telles instructions.
Que nous puissions contrôler pleinement AGI et le faire adhérer strictement aux préférences humaines est une question ouverte et est toujours débattu.
Une dernière pensée pour l’instant sur ce sujet grisant. Muhammad Ali a dit ceci: “Dans les grandes ligues, tout le monde a la capacité. Cela vient toujours à l’esprit. Quiconque est plus fort mentalement.”
Qui ou quoi sera mentalement plus fort – sera-t-il Agi ou des humains? Si vous votez pour les humains, nous ferions mieux de commencer à comprendre comment concevoir et guider AGI en conséquence. Ce pourrait être une compétition gagnante. Et ce n’est pas un jeu d’esprit.
