Qu'est-ce que le point de singularité technologique ?

Proposé par
le
dans

La technologie évolue, et elle le fait aussi et surtout à une vitesse exponentielle. L'humanité serait ainsi très proche du moment où les technologies comme l'IA atteindront un point d'explosion tel que l'homme ne pourra suivre : c'est ce qui s'appelle la théorie du point de singularité technologique. Passé ce point de singularité technologique, on ne sait pas ce qui peut arriver.

Les plus optimistes parlent d'un âge d'or où même la mort pourrait être vaincue, d'autres au contraire y voient la disparition de l'humanité. Les premières estimations prévoyaient l'arrivée de ce point dans la deuxième moitié du XXIe siècle, mais il pourrait survenir bien plus tôt au vu de ce qui a été déjà fait pendant les 15 premières années de ce siècle.


Tous les commentaires (73)

a écrit : Exactement, il y en a qui regardent un peu trop de SF! Les robots n'auront jamais le dessus sur les hommes, ils sont une création de l'homme. Et personne n'échappera à la mort non plus! Merci Mme Irma, nous voilà rassurés. Voyez-vous autre chose dans votre boule de cristal?

Posté le

android

(0)

Répondre

a écrit : Certains imaginent des machines avec une IA très performante et douées d'émotions. Cela n'a pas d'intérêt. C'est l'émotion qui freine l'intelligence. Une IA sans émotion sera donc plus performante que nous. Elle pourra innover et travailler sans se reposer, sans douter, sans frein. une IA ne pourra travailler qu'avec ce que l'homme lui a ''donné''. C'est lorsqu'elle apprendra seule, qu'elle créera ses connexions synaptiques qu'elle nous dépassera mais sans en avoir conscience, elle saura mais ne saura pas qu'elle sait elle sera au stade du sapiens​, pas encore à celui du sapiens sapiens. Elle ne pourra donc pas ressentir de sentiment, notamment celui d'être en danger face à son ''créateur'' et ne ressentira pas l'urgence de le faire disparaitre. Respirez Afficher tout Ton commentaire n a ni queue ni tête, se contredis et ne veux rien dire... de plus pour ta culture général la définition sapiens sapiens n existe plus depuis un moment déjà (nous sommes tous ses Homo sapiens).

Posté le

android

(0)

Répondre

a écrit : Alors je ne dis pas que ce sera la fin de l'humanité dans 15 ans, mais tu as tendance, et tu n'es pas le seul dans ce cas, à te baser sur le fait qu'on connaît aujourd'hui la recette des ordinateurs, (et plus généralement des technologies) de demain pour soutenir tes propos.

Pour dire
que la puissance des ordinateurs ne peut augmenter suffisamment, tu te bases dans tes deux commentaires sur le postulat que les ordinateurs garderont toujours l'architecture actuelle, avec des transistors comme on les connaît etc...

Il faut élargir un peu son esprit, tout peut changer du jour au lendemain, il suffit d'une idée et on se dirige vers une nouvelle forme d'ordinateurs avec une puissance potentielle sans comparaison avec aujourd'hui..

Quand Turing a fait sa première machine, les gens n'auraient même pas osé imaginer la puissance des machines qu'on a aujourd'hui...
Afficher tout
Ce n'est absolument pas le cas, tu ne comprends pas l'essentiel et tu t'accroches sur un détail. Que les ordinateurs soient fait de transistors ou de qubits bizarres, ça ne change rien au fait que l'ordinateur est une machine. Une machine faite des mêmes matières que le reste de l'univers et qui obéit aux mêmes lois, qui ne peut pas être infiniment rapide ou efficace.
Je ne sais pas si tu y connais grand chose en architecture de processeur par exemple, mais si c'est le cas tu sais sans doute qu'on ne réinvente pas l'ordinateur tous les ans lorsque Intel sort ses nouveaux core i7. On améliore le concept existant. Un ordinateur repose sur un certain nombre de portes logiques qui doivent être matériellement construites. Et un jour on ne peut faire plus petit sans tomber sur la physique quantique.
Si je parodie ton raisonnement mais en gardant le même niveau de réalisme, alors tu penses qu'on aura des générateurs capable de produire de l'énergie infinie grâce au mouvement perpétuel simplement parce qu'on inventera autre chose que la bobine en cuivre dans un aimant.

a écrit : Tiré de l’excellent article de Wait but Why (en anglais dans les sources, traduction par moi) : “Imaginez que vous remontiez jusqu’en 1750 - Dans une période de guerre continuelle, où les communications longue distance se résument à crier très fort ou envoyer des boulets de canon, et où tous les moyens de transports étaient nourris au foin. Quand vous arrivez, vous prenez quelqu’un, le ramenez en 2015 et lui faites visiter les alentours pour voir sa réaction. Il serait impossible pour nous de comprendre ce qu’il pourrait ressentir en voyant des capsules brillantes foncer sur une des routes énormes, en parlant à des gens qui ont été de l’autre côté de l’océan le matin même, en regardant un match de sport qui se passe à 500 km d’ici, en écoutant une comédie musicale qui s’est passée il y a 50 ans, et en utilisant un petit rectangle magique pour enregistrer une image en temps réel, générer une carte avec un petit point bleu qui indique où il est, regarder et parler avec quelqu’un à l’autre bout du pays, et plein d’autres sorcelleries. Tout ça avant de lui montrer l’Internet, lui expliquer l’ISS, le LHC, les armes nucléaires ou la relativité générale.

Cette expérience ne serait pas surprenante ou choquante pour lui, ou même ‘mind blowing’ - Ces mots ne sont pas assez importants. En fait, il pourrait en mourir.

Mais ce n’est pas ce qui est le plus intéressant - Si maintenant, il retournait en 1750, et eut honte qu’on aie pu voir sa réaction, et voulait pouvoir faire la même chose, lui aussi remonterait le temps d’autant d’années pour prendre quelqu’un vivant aux environs de 1500, le ramènerait en 1750 et lui montrerait le monde. Cette personne serait certainement choquée par beaucoup de choses - mais, n’en mourrait pas. Ce serait une expérience -bien- moins folle pour lui, parce que, bien que 1500 et 1750 sont très différents, ils sont -bien- moins différents qu’entre 1750 et 2015. La personne de 1500 pourrait apprendre quelques informations incroyables sur l’espace et la physique, elle serait impressionnée par comment l’Europe est devenue impérialiste dans tous les sens, et elle devrait revoir sa copie de géographie. Mais en regardant la vie de tous les jours de 1750 - les transports, les communications, etc - Cela ne serait pas assez pour en mourir.

Non, pour que la personne de 1750 puisse voir la même réaction qu’elle a eue, elle devrait remonter bien plus loin dans le temps - peut-être jusqu’en 12000 avant Jésus Christ, avant que la révolution de l’agriculture ne donne naissance aux premières cités et au concept de civilisation. Si un chasseur-cueilleur pur et dur qui vit dans un monde où l’homme était au final un animal comme un autre, voyait le vaste empire humain de 1750 avec les églises, les navires qui traversent l’océan, le concept d’être ‘à l’intérieur’, et l’énorme montagne de connaissance et de découvertes humaines accumulée - Là, il pourrait en mourir.

Et, maintenant, si après être morte, cette personne eut également honte et voulait faire la même chose ? Elle remonterait le temps, peut-être quelque part entre 12 000 et 24 000 avant notre ère, pour ramener quelqu’un de là et lui montrer en -12000 ? Elle lui montrerait les alentours, mais la personne dirait ‘Oui, et alors ?’. Pour que la personne de -12000 puisse obtenir la même réaction, elle devrait aller bien plus loin en arrière, comme 100 000 ans avant et ramener quelqu’un pour lui montrer le feu et les langages.”
Afficher tout
Captain america s'est très bien adapté au New York de 2015!!!

a écrit : La question de l'existence du libre arbitre n'est pas une évidence et est bien remis en cause par certaines études. Pourrais-tu m'aiguiller vers ces études s'il-te-plaît? Merci d'avance.

a écrit : Pourquoi s'il n'y a plus de salariés il n'y a plus de clients ? Je suppose qu'il prend comme situation que les gens ne soient plus payés...

a écrit : Ce n'est absolument pas le cas, tu ne comprends pas l'essentiel et tu t'accroches sur un détail. Que les ordinateurs soient fait de transistors ou de qubits bizarres, ça ne change rien au fait que l'ordinateur est une machine. Une machine faite des mêmes matières que le reste de l'univers et qui obéit aux mêmes lois, qui ne peut pas être infiniment rapide ou efficace.
Je ne sais pas si tu y connais grand chose en architecture de processeur par exemple, mais si c'est le cas tu sais sans doute qu'on ne réinvente pas l'ordinateur tous les ans lorsque Intel sort ses nouveaux core i7. On améliore le concept existant. Un ordinateur repose sur un certain nombre de portes logiques qui doivent être matériellement construites. Et un jour on ne peut faire plus petit sans tomber sur la physique quantique.
Si je parodie ton raisonnement mais en gardant le même niveau de réalisme, alors tu penses qu'on aura des générateurs capable de produire de l'énergie infinie grâce au mouvement perpétuel simplement parce qu'on inventera autre chose que la bobine en cuivre dans un aimant.
Afficher tout
Premièrement, je n'ai jamais parlé d'infini contrairement à toi, et je ne pense pas une seconde que l'énergie "infinie" soit un pré-requis pour que le point énoncé par l'anecdote soit atteint.

Ensuite, contrairement à ce que tu dis, je ne me cantonnes pas à une vision des ordinateurs à transistors comme tu le dis, je t'ai même invité à voir au delà de ça, tu me reprends là dessus alors que c'est toi qui fait implicitement cette erreur.. On ne sait pas comment ça peut évoluer d'ici même 5 ans, on pourrait avoir des nouvelles formes d'"ordinateur" qui n'ont rien à voir avec ce que l'on connaît...

Pour finir, on ne parle pas forcément de fin de l'humanité mais d'arriver à un point où l'IA est devenue tellement puissante et omniprésente qu'elle en serait incontrôlable avec des conséquences plus ou moins importantes (comme le fait de devoir couper l'internet mondial pour reprendre un exemple cité).

Je trouve que c'est déjà quelque chose d'énorme et ça ne nécessite pas une "énergie infinie", faut arrêter avec ça...

a écrit : Premièrement, je n'ai jamais parlé d'infini contrairement à toi, et je ne pense pas une seconde que l'énergie "infinie" soit un pré-requis pour que le point énoncé par l'anecdote soit atteint.

Ensuite, contrairement à ce que tu dis, je ne me cantonnes pas à une vision des ordi
nateurs à transistors comme tu le dis, je t'ai même invité à voir au delà de ça, tu me reprends là dessus alors que c'est toi qui fait implicitement cette erreur.. On ne sait pas comment ça peut évoluer d'ici même 5 ans, on pourrait avoir des nouvelles formes d'"ordinateur" qui n'ont rien à voir avec ce que l'on connaît...

Pour finir, on ne parle pas forcément de fin de l'humanité mais d'arriver à un point où l'IA est devenue tellement puissante et omniprésente qu'elle en serait incontrôlable avec des conséquences plus ou moins importantes (comme le fait de devoir couper l'internet mondial pour reprendre un exemple cité).

Je trouve que c'est déjà quelque chose d'énorme et ça ne nécessite pas une "énergie infinie", faut arrêter avec ça...
Afficher tout
Effectivement tout cela ne nécessite pas d'énergie infinie à proprement parler, et de nouvelles formes de computation bien plus puissantes verront probablement le jour.
Mais de là à dire que cet "événement" va arriver, ce n'est que de la pure spéculation, rien ne le certifie. Cela reste un scénario gratuit.
Et comme tu le dis toi-même, si on accorde de manière totalement arbitraire que cela puisse arriver, au pire du pire du pire du pire, on "débranche" les sources d'énergie mondialement, brutalement s'il le faut, et le tour est joué.
Chiant, un peu destructeur, voire "traumatisant", oui peut-être, mais entièrement possible. En revanche la mise sous tutelle de l'humanité par une "super-intelligence", voire son extermination, là non, on nage en pleine SF. Dans un futur (lointain) où les conditions seront très différentes, peut-être, mais de nouveau on parle là de scénarios qui n'ont rien à voir avec la science.

a écrit : “Ce motif - que la progression humaine se fasse de plus en plus rapidement en même temps que le Temps progresse - est ce que le futuriste Ray Kurtzweil appelle la loi humaine du Retour s’Accélérant. Cela arrive car les sociétés plus avancées sont capable également de progresser à une -vitesse- plus importante que les plus anciennes sociétés, tout simplement parce qu’elle sont plus avancées. l’humanité du 19ème siècle a plus de technologie que l’humanité du 15ème siècle, donc cela a du sens qu’on aie fait plus d’innovations au 19ème siècle qu’au 15ème.” Afficher tout On parle là de la technologie, qui inclut bien sûr la robotique mais pas que.
Les nouvelles techniques interpellent aussi au niveau de l'éthique humaine, via notre façon de nous alimenter, nous vêtir, nous soigner. La compréhension de toutes ces données ne sera plus possible car leur avancée technique sera supérieure à notre capacité de compréhension.
C'est en tout cas comme ça que j'ai interprété.

a écrit : Ce concept de singularité technologique n'est pas loin d'être une simple absurdité basée sur de faux postulats. Je vous encourage à lire d'abord les commentaires de l'OP afin de comprendre de quoi je parle.

Tout d'abord, on se base sur le fait que le progrès technologique n'es
t pas linéaire mais exponentiel. Cela se vérifie historiquement jusqu'au début du 21eme siècle mais ce n'est déjà plus vrai aujourd'hui, votre ordinateur n'est plus aussi vite obsolète qu'il l'était dans les années 90. En fait, la progression n'est même plus linéaire mais tend plutôt vers une courbe logarithmique, suggérant un maximum.

Le deuxième point justement est la question du maximum. Pour qu'une singularité technologique puisse survenir, il faut que les progrès technologiques et informatiques n'aient pas de maximum, or tout porte à croire que c'est bien le cas. Les ordinateurs notamment, ne fonctionnent pas à la magie noire mais bien selon des principes physiques. Le but lorsqu'on veut améliorer un ordinateur est de le rendre plus petit et moins énergivore, or, les lois de la physique nous empêchent de réduire la dimension des composants au delà d'une certaine limite (d'ores et déjà atteinte). Aucun argument rationnellement construit à part "ça a toujours été comme ça jusqu'à maintenant" ne permet de supposer que l'informatique puisse progresser à l'infini, un ordinateur est après tout une machine au même titre que votre moteur de voiture, avec une efficacité qui ne sera jamais de 100% simplement à cause des lois de la physique.

Enfin, le principal postulat de cette théorie est lié à l'intelligence artificielle. Il suppose que si on crée une IA n°1 plus performante que nous, et qu'on lui demande de développer IA n°2, alors celle ci sera plus rapidement développée et plus perfectionnée. Ensuite IA 2 créé une IA 3 encore meilleure et encore plus rapidement, et quelques heures à peine plus tard IA 189756 est infiniment plus intelligente que nous. (Mal)heureusement, ce postulat n'est encore une fois basé sur aucune raison logique. Certes, pour la transition de IA 1 à 2 on peut supposer qu'un robot n'étant pas limité à la vitesse de nos 10 doigts pour taper, il pourrait coder une nouvelle IA plus rapidement que nous. Mais meilleure ? Pourquoi coderait-il mieux à partir de la même base de connaissances sur l'informatique et sur l'intelligence ? Concrètement qu'est-ce qui lui permettrait de faire mieux que nous avec les mêmes outils ? On a aucune garantie qu'il arriverait à faire un autre programme plus intelligent que lui même, et de plus passé cette première étape aucun n'indice n'indique que les suivantes seront de plus en plus rapides, les IA à chaque étape seraient limités par la puissance du matériel sur lequel ils tournent, et n'ont aucune raison de faire mieux que leur prédécesseur.

Concrètement c'est une théorie que la physique aurait pu démonter à l'époque de sa formulation, et dont l'Histoire maintenant tend à prouver l'imprécision.
Afficher tout
J'apporterais juste des précisions quand tu parle de limites matérielle pour les ordinateurs.. Tu es bien conscient qu'on passe a un tour autre stade de puissance de calcul avec les ordinateurs quantiques ? Et ils n'en sont qu'au début de l'exploitation de cette technologique il est probable pour le moment qu'il n'y ai pas encore de "maximum technologique"

Sa me fait pensait à battlestar galactica bonne série ou les humains doivent quitter leur monde suite à un holocauste provoque par les machines devenu tellement intelligentes que ces dernières pensent que l homme et devenu sont ennemi à détruire

a écrit : Tiré de l’excellent article de Wait but Why (en anglais dans les sources, traduction par moi) : “Imaginez que vous remontiez jusqu’en 1750 - Dans une période de guerre continuelle, où les communications longue distance se résument à crier très fort ou envoyer des boulets de canon, et où tous les moyens de transports étaient nourris au foin. Quand vous arrivez, vous prenez quelqu’un, le ramenez en 2015 et lui faites visiter les alentours pour voir sa réaction. Il serait impossible pour nous de comprendre ce qu’il pourrait ressentir en voyant des capsules brillantes foncer sur une des routes énormes, en parlant à des gens qui ont été de l’autre côté de l’océan le matin même, en regardant un match de sport qui se passe à 500 km d’ici, en écoutant une comédie musicale qui s’est passée il y a 50 ans, et en utilisant un petit rectangle magique pour enregistrer une image en temps réel, générer une carte avec un petit point bleu qui indique où il est, regarder et parler avec quelqu’un à l’autre bout du pays, et plein d’autres sorcelleries. Tout ça avant de lui montrer l’Internet, lui expliquer l’ISS, le LHC, les armes nucléaires ou la relativité générale.

Cette expérience ne serait pas surprenante ou choquante pour lui, ou même ‘mind blowing’ - Ces mots ne sont pas assez importants. En fait, il pourrait en mourir.

Mais ce n’est pas ce qui est le plus intéressant - Si maintenant, il retournait en 1750, et eut honte qu’on aie pu voir sa réaction, et voulait pouvoir faire la même chose, lui aussi remonterait le temps d’autant d’années pour prendre quelqu’un vivant aux environs de 1500, le ramènerait en 1750 et lui montrerait le monde. Cette personne serait certainement choquée par beaucoup de choses - mais, n’en mourrait pas. Ce serait une expérience -bien- moins folle pour lui, parce que, bien que 1500 et 1750 sont très différents, ils sont -bien- moins différents qu’entre 1750 et 2015. La personne de 1500 pourrait apprendre quelques informations incroyables sur l’espace et la physique, elle serait impressionnée par comment l’Europe est devenue impérialiste dans tous les sens, et elle devrait revoir sa copie de géographie. Mais en regardant la vie de tous les jours de 1750 - les transports, les communications, etc - Cela ne serait pas assez pour en mourir.

Non, pour que la personne de 1750 puisse voir la même réaction qu’elle a eue, elle devrait remonter bien plus loin dans le temps - peut-être jusqu’en 12000 avant Jésus Christ, avant que la révolution de l’agriculture ne donne naissance aux premières cités et au concept de civilisation. Si un chasseur-cueilleur pur et dur qui vit dans un monde où l’homme était au final un animal comme un autre, voyait le vaste empire humain de 1750 avec les églises, les navires qui traversent l’océan, le concept d’être ‘à l’intérieur’, et l’énorme montagne de connaissance et de découvertes humaines accumulée - Là, il pourrait en mourir.

Et, maintenant, si après être morte, cette personne eut également honte et voulait faire la même chose ? Elle remonterait le temps, peut-être quelque part entre 12 000 et 24 000 avant notre ère, pour ramener quelqu’un de là et lui montrer en -12000 ? Elle lui montrerait les alentours, mais la personne dirait ‘Oui, et alors ?’. Pour que la personne de -12000 puisse obtenir la même réaction, elle devrait aller bien plus loin en arrière, comme 100 000 ans avant et ramener quelqu’un pour lui montrer le feu et les langages.”
Afficher tout
Traduction très agréable, même si j'avoue que par flemme je ne suis pas allé chercher l'article original. Par contre le raisonnement me paraît plus poétique que fondé comme toute cette théorie d'ailleurs. En effet, je pense qu'il ne suffit pas de grand chose pour pouvoir faire régresser une civilisation. Pour la notre, une éruption solaire bien massive et on risque de perdre pas mal de temps à reprendre la marche en avant...

Posté le

android

(0)

Répondre