Qu'est-ce que le point de singularité technologique ?

Proposé par
le
dans

La technologie évolue, et elle le fait aussi et surtout à une vitesse exponentielle. L'humanité serait ainsi très proche du moment où les technologies comme l'IA atteindront un point d'explosion tel que l'homme ne pourra suivre : c'est ce qui s'appelle la théorie du point de singularité technologique. Passé ce point de singularité technologique, on ne sait pas ce qui peut arriver.

Les plus optimistes parlent d'un âge d'or où même la mort pourrait être vaincue, d'autres au contraire y voient la disparition de l'humanité. Les premières estimations prévoyaient l'arrivée de ce point dans la deuxième moitié du XXIe siècle, mais il pourrait survenir bien plus tôt au vu de ce qui a été déjà fait pendant les 15 premières années de ce siècle.


Tous les commentaires (73)

Et à propos, certaines théories de la simulation (qui reviennent à dire que l'on vit dans une simulation) sont démontées ou très fortement limitées par le même constat élémentaire : rien ne porte à croire que les ordinateurs soient améliorables à l'infini, même à un rythme très lent. Scientifiquement il est extrêmement facile de prouver que ce ne sera pas le cas.

Cependant la simulation pourrait toujours avoir été créée dans un univers différent du notre où les "ordinateurs" ne fonctionnent pas de la même façon et ne sont pas soumis aux mêmes limites (ils sont peut être construits dans un nombre plus élevé de dimensions par exemple, mais fondamentalement tout porte à croire qu'ils seraient issus d'un univers plus "complexe" que la simulation (le nôtre))

L'intelligence artificielle n'égalera jamais la connerie naturelle...

a écrit : Merci Latour d'avoir très bien résumé le XXe siècle :
"Les seules découvertes innovantes sont le CD, le Microondes et le velcro"

Il n'y a donc rien eut d'autre si ce n'est des améliorations des technologies pré-existantes. D'ailleurs, les inventions et progrès du XX
I siècles ne sont en réalité que des améliorations de techniques existant déjà en 1800. En continuant cet raisonnement, on en arrive à la conclusion que tout les innovations techniques et technologiques existaient déjà en 100 000 avant notre ère, et que nous n'avons vu que des "améliorations progressives, constantes et en accélération de technologies existant déjà".

Sauf le velcro et le micro-onde, bien sûr.
Afficher tout
se servir de procédés existants pour en mettre un autre au point , ce n'est pas franchement une innovation. Le moteur à explosion existait déjà, mais, bien sûr, il était loin d'être aussi performant qu’aujourd’hui. Einstein était sur le point de mettre à plat la théorie de la relativité, la radio-activité commençait à sévir et Marconi émettait un "S" de l'Irlande vers les États Unis par radio, des avions s'élevaient à 30 cm du sol et on dessinait les plans du Titanic

Je vous conseille vivement la série « black mirrors » qui nous montre ce que pourrait être le futur plus ou moins proche, personnellement certains épisodes m’ont mis mal à l’aise.

a écrit : Il suffira de leur couper le courant ^^
C’est pas parce qu’on est intelligent qu’on n’est pas bêtement dépendant d’un truc vital. En particulier un truc entièrement virtuel qui reste bêtement dépendant du monde matériel pour exister.

Il y aura peut être une autre singularité, quand on arrivera à fair
e des robots capable de s’auto-entretenir. Et d’entretenir l’ensemble du système d’extraction d’énergie.

Les films de science-fiction oublient toujours ce problème. ^^
Bref, on a le temps de voir venir.

De plus, on est plus intelligent que les cafards, c’est pas pour autant qu’on arrive à s’en débarrasser. :p
Afficher tout
Ton commentaire est tellement erroné que je me suis senti obligé de répondre .Tu répètes "bêtement" alors que t'as même pas réfléchi a cette idée, l'ignorant "bêtement".
"Couper le courant", une fois connectée a internet, bonne chance pour la débrancher.

Tu sembles pas comprendre ce qu'une singularité est. Une singularité est un phénomène (tel que les trous noirs) tellement extrême que toutes les lois établies ne s'appliquent plus.
Juste pour faire un argument a l'autorité, les plus grands scientifiques et ingénieurs de notre époque ne se demandent pas "si" ça va arriver, mais débattent de "quand" et "comment" ça va se passer.
De plus, on est pas en train de fabriquer une intelligence artificielle supérieure comme tu le laisse entendre, on fabrique un AI qui arrive a apprendre soi même, ce qui, après un certain point va exploser au niveau de son intelligence. Il nous dépassera tellement, que la différence entre un singe et nous sera plus mince qu'entre l'AI et les humains.

"On a le temps de voir venir" Comme les Amer Indiens ont eu le temps de voir venir les Européens, il s'en sont si bien sorti.

Mon commentaire est long est désorganisé, mais je voulais souligner a quel point ton commentaire est que croyance, se basant sur aucun fait.
L'intelligence Artificielle est une réalité, elle arrive bientôt, et dés qu'elle sera aussi intelligente qu'un humain, elle deviendra très très vite une intelligence bien supérieure a la notre.
Qu'est ce que un intelligence artificielle, infiniment plus intelligente va faire ? On peut pas savoir... on est pas assez intelligents...

"Passé ce point de singularité technologique, nul ne sait ce qui peut arriver".
De 1, c'est présumer de l'importance de l'homme. Ce n'est pas parce qu'on est la créature la plus intelligente sur terre qu'aucune intelligence supérieure n'existe.
De 2, c'est aussi imaginer que les deux courbes d'intelligence/savoir des humains et des machines sont corrélées. Or, la courbe de l'intelligence humaine est indépendante, et le point de singularité est juste le moment où la deuxième, dépassant la première, devient indépendante de celle-ci. Mais une inversion dans ces courbes ne signifie pas que l'intelligence humaine passe sous domination de l'intelligence artificielle. Deux types d'intelligence peuvent cohabiter.

Posté le

android

(5)

Répondre

a écrit : "Passé ce point de singularité technologique, nul ne sait ce qui peut arriver".
De 1, c'est présumer de l'importance de l'homme. Ce n'est pas parce qu'on est la créature la plus intelligente sur terre qu'aucune intelligence supérieure n'existe.
De 2, c'est a
ussi imaginer que les deux courbes d'intelligence/savoir des humains et des machines sont corrélées. Or, la courbe de l'intelligence humaine est indépendante, et le point de singularité est juste le moment où la deuxième, dépassant la première, devient indépendante de celle-ci. Mais une inversion dans ces courbes ne signifie pas que l'intelligence humaine passe sous domination de l'intelligence artificielle. Deux types d'intelligence peuvent cohabiter. Afficher tout
Ne vous enflamez.pas, on est encore très très loin de mettre une veritable IA au point. Comme dit plus haut, pour l'instant ce ne sont que des statistiques très poussées. Les prouesses du deep learning restent impressionantes, la reconnaissance d'objets, le.jeu de go etc, mais dans son foncionnement il n'y a aucune intelligence, nada, peau de couille. La machine excecute des algorythmes, fait des correlations de données tellement complexe que l'on ne comprend plus bien ce qu'elle fait, mais il n'y a aucune autonomie dans ses décisions, aucune inteligence a proprement parler, aucune conscience, et on en est très très très loin...

a écrit : En fait, on ne peut pas parler d'innovations technologiques, mais d'améliorations progressives, constantes et en accélération de technologies existant déjà en 1900 (fin du XIXème siècle)
Les seules découvertes innovantes sont le CD, le Microondes et le velcro (voir MiB)
Pour l'IA, si ce sont
des êtres humains qui la créent, ils ne pourront pas faire mieux que ce qu'ils connaissent de l'"intelligence", c'est à dire pas grand chose. On peut augmenter la taille des bases de données, les remplir jusqu'à plus soif, mais une machine, aussi perfectionnée qu'elle soit, ne peut actuellement pas concevoir sans information sur la notion de concept. L'imagination et l'initiative libre (non programmée) ne peuvent se prédire, c'est le propre du vivant.
Ça ne veut pas dire qu'on aura pas l'impression d'être en face d'une technologie impressionnante, possiblement dangereuse, qu'une machine peut sembler vivre, mais je ne pense pas qu'elle puisse survivre en "transmettant" à sa descendance.
Bon, de toute façon, la plupart d'entre nous ne sera plus là pour le voir.
Afficher tout
Je ne suis pas si sûr. un chercheur à demander à une IA de lui créer le châssis d'un véhicule le plus léger, le plus résistant à tout type de contrainte. l'IA n'a eu aucun trajet à suivre ni de condition particulaire. Il se trouve qu'elle en est arriver par association d'idée à un prototype en 3D basé sur la forme d'un bassin humain ! Si pour toi ceci n'est pas de la création à l'état pur, je ne sais pas ce qu'est alors l'imagination. je n'ai pas affectuer de recherche pour retrouver l'article en question mais il ne doit pas être si dûre a retrouver :)

a écrit : Il suffira de leur couper le courant ^^
C’est pas parce qu’on est intelligent qu’on n’est pas bêtement dépendant d’un truc vital. En particulier un truc entièrement virtuel qui reste bêtement dépendant du monde matériel pour exister.

Il y aura peut être une autre singularité, quand on arrivera à fair
e des robots capable de s’auto-entretenir. Et d’entretenir l’ensemble du système d’extraction d’énergie.

Les films de science-fiction oublient toujours ce problème. ^^
Bref, on a le temps de voir venir.

De plus, on est plus intelligent que les cafards, c’est pas pour autant qu’on arrive à s’en débarrasser. :p
Afficher tout
Juste pour exemple dans terminator, skynet ne peut être débranché car il peut infecter n'importe quel systeme. Tout débrancher me parait par conséquent impossible ne serait-ce que pour notre propre survie.

Posté le

android

(0)

Répondre

Skynet fonctionne alors de la manière d'un malware, et il "suffira" d'ôter tout appareil electrique qui serait raccordé au réseau.

Difficile et contraignant mais pas impossible.

Posté le

android

(2)

Répondre

a écrit : Et à propos, certaines théories de la simulation (qui reviennent à dire que l'on vit dans une simulation) sont démontées ou très fortement limitées par le même constat élémentaire : rien ne porte à croire que les ordinateurs soient améliorables à l'infini, même à un rythme très lent. Scientifiquement il est extrêmement facile de prouver que ce ne sera pas le cas.

Cependant la simulation pourrait toujours avoir été créée dans un univers différent du notre où les "ordinateurs" ne fonctionnent pas de la même façon et ne sont pas soumis aux mêmes limites (ils sont peut être construits dans un nombre plus élevé de dimensions par exemple, mais fondamentalement tout porte à croire qu'ils seraient issus d'un univers plus "complexe" que la simulation (le nôtre))
Afficher tout
Alors je ne dis pas que ce sera la fin de l'humanité dans 15 ans, mais tu as tendance, et tu n'es pas le seul dans ce cas, à te baser sur le fait qu'on connaît aujourd'hui la recette des ordinateurs, (et plus généralement des technologies) de demain pour soutenir tes propos.

Pour dire que la puissance des ordinateurs ne peut augmenter suffisamment, tu te bases dans tes deux commentaires sur le postulat que les ordinateurs garderont toujours l'architecture actuelle, avec des transistors comme on les connaît etc...

Il faut élargir un peu son esprit, tout peut changer du jour au lendemain, il suffit d'une idée et on se dirige vers une nouvelle forme d'ordinateurs avec une puissance potentielle sans comparaison avec aujourd'hui..

Quand Turing a fait sa première machine, les gens n'auraient même pas osé imaginer la puissance des machines qu'on a aujourd'hui...

Posté le

android

(6)

Répondre

a écrit : Assez flippant comme information... Laissons de côté toute cette technologie retournons un peu dehors prendre l air et profitons de notre bonne vieille Terre Ça dépend de quelles technologies tu parles parce que si l'être humain n'avait pas réussi quelques avancées scientifiques et technologiques, on ne serait pas là à communiquer à travers nos tablettes/smartphones.

a écrit : Ce que j'ai du mal à comprendre, c'est que la technologie humaine dépend de l'homme, alors à moins que les IA que l'homme aura inventé prennent le relais et agissent comme bon leur semble, on ne devrait pas se laisser dépasser par nos propres inventions quand même. Enfin dans la mesure où il me semble judicieux de pouvoir garder le contrôle de ses propres inventions.

Par contre, compte tenu de la technologie actuelle, il pourrait inventer des choses qu'on imagine à peine voire pas du tout, et peut-être même sous peu. Il suffit de voir la réaction des gens du début du 20e siècle quand quelques illuminés disaient que l'homme marcherait sur la Lune (indépendamment du débat qui existe autour) ou enverraient des machines sur les autres planètes.
Afficher tout
Exactement, il y en a qui regardent un peu trop de SF! Les robots n'auront jamais le dessus sur les hommes, ils sont une création de l'homme. Et personne n'échappera à la mort non plus!

Posté le

android

(0)

Répondre

a écrit : Tiré de l’excellent article de Wait but Why (en anglais dans les sources, traduction par moi) : “Imaginez que vous remontiez jusqu’en 1750 - Dans une période de guerre continuelle, où les communications longue distance se résument à crier très fort ou envoyer des boulets de canon, et où tous les moyens de transports étaient nourris au foin. Quand vous arrivez, vous prenez quelqu’un, le ramenez en 2015 et lui faites visiter les alentours pour voir sa réaction. Il serait impossible pour nous de comprendre ce qu’il pourrait ressentir en voyant des capsules brillantes foncer sur une des routes énormes, en parlant à des gens qui ont été de l’autre côté de l’océan le matin même, en regardant un match de sport qui se passe à 500 km d’ici, en écoutant une comédie musicale qui s’est passée il y a 50 ans, et en utilisant un petit rectangle magique pour enregistrer une image en temps réel, générer une carte avec un petit point bleu qui indique où il est, regarder et parler avec quelqu’un à l’autre bout du pays, et plein d’autres sorcelleries. Tout ça avant de lui montrer l’Internet, lui expliquer l’ISS, le LHC, les armes nucléaires ou la relativité générale.

Cette expérience ne serait pas surprenante ou choquante pour lui, ou même ‘mind blowing’ - Ces mots ne sont pas assez importants. En fait, il pourrait en mourir.

Mais ce n’est pas ce qui est le plus intéressant - Si maintenant, il retournait en 1750, et eut honte qu’on aie pu voir sa réaction, et voulait pouvoir faire la même chose, lui aussi remonterait le temps d’autant d’années pour prendre quelqu’un vivant aux environs de 1500, le ramènerait en 1750 et lui montrerait le monde. Cette personne serait certainement choquée par beaucoup de choses - mais, n’en mourrait pas. Ce serait une expérience -bien- moins folle pour lui, parce que, bien que 1500 et 1750 sont très différents, ils sont -bien- moins différents qu’entre 1750 et 2015. La personne de 1500 pourrait apprendre quelques informations incroyables sur l’espace et la physique, elle serait impressionnée par comment l’Europe est devenue impérialiste dans tous les sens, et elle devrait revoir sa copie de géographie. Mais en regardant la vie de tous les jours de 1750 - les transports, les communications, etc - Cela ne serait pas assez pour en mourir.

Non, pour que la personne de 1750 puisse voir la même réaction qu’elle a eue, elle devrait remonter bien plus loin dans le temps - peut-être jusqu’en 12000 avant Jésus Christ, avant que la révolution de l’agriculture ne donne naissance aux premières cités et au concept de civilisation. Si un chasseur-cueilleur pur et dur qui vit dans un monde où l’homme était au final un animal comme un autre, voyait le vaste empire humain de 1750 avec les églises, les navires qui traversent l’océan, le concept d’être ‘à l’intérieur’, et l’énorme montagne de connaissance et de découvertes humaines accumulée - Là, il pourrait en mourir.

Et, maintenant, si après être morte, cette personne eut également honte et voulait faire la même chose ? Elle remonterait le temps, peut-être quelque part entre 12 000 et 24 000 avant notre ère, pour ramener quelqu’un de là et lui montrer en -12000 ? Elle lui montrerait les alentours, mais la personne dirait ‘Oui, et alors ?’. Pour que la personne de -12000 puisse obtenir la même réaction, elle devrait aller bien plus loin en arrière, comme 100 000 ans avant et ramener quelqu’un pour lui montrer le feu et les langages.”
Afficher tout
Faux ... et je vais démonter toute cette belle argumentation en une seule phrase : jacquouille la fripouille s'est très bien débrouillé à notre époque !
Mouhahahaha :-)

a écrit : Tout cela pour dire que nous sommes arrivées à une période où les innovations technologiques majeures ne se comptent plus en millénaires, ni en siècles, mais en décennies - nous sommes à la limite de l'Histoire où, grâce à l'aide de l'Intelligence Artificielle, nous serions capable d'innover de manière continuelle, et toujours à un rythme plus effréné, au point où il serait possible que l'IA soit si avancée, que nous, humains ne pourrions plus rien comprendre à ces innovations.
Et cela arrive bien plus vite qu'on ne le croie ! Car nous les hommes, ne sommes pas capable de penser de manière exponentielle. On pense que cela arrivera dans 50, 40 ans au plus tôt, mais les gens comme Kurtzweil tablent plutôt sur 2030, et cette prédiction, c'était avant des avancées majeures comme l'IA de Go qui bat un joueur humain et qu'on ne pensait pas arriver avant 2020 (c'est arrivée l'année dernière !).
Passé ce point de singularité technologique, on ne sait vraiment pas ce qu'il peut arriver; l'IA pourrait avoir une explosion innovative telle qu'on pourrait trouver un remède à tous les cancers, trouver une solution à l'humanité à la fois écologique et sociale, voir même vaincre la mort. Mais cela pourrait aussi marquer l'avènement le "l'ère des robots' qui pourrait finir par trouver une conscience et se dire "finalement, nous sommes plus intelligents que les hommes, pourquoi les garder en vie ?".
Personnellement, j'ai vraiment hâte et j'espère réellement que cela arrive de mon vivant! Au mieux je deviens immortel, au pire, et bien au moins j'aurai vécu la fin de l'Humanité!
Afficher tout
Un remède à tous les cancers ?! Lol. Il ne faut pas oublier que les cancers sont en majorité le résultat de notre société industrielle (pollution de l'air, pesticides et additifs dans notre alimentation, etc.). Donc c'est une course de vitesse entre la technologie qui produit les cancers et la technologie qui les soigne. Au moyen-age s'est jouée la course entre les projectiles et les blindages. Finalement ce sont les projectiles qui ont gagné...

a écrit : Il suffira de leur couper le courant ^^
C’est pas parce qu’on est intelligent qu’on n’est pas bêtement dépendant d’un truc vital. En particulier un truc entièrement virtuel qui reste bêtement dépendant du monde matériel pour exister.

Il y aura peut être une autre singularité, quand on arrivera à fair
e des robots capable de s’auto-entretenir. Et d’entretenir l’ensemble du système d’extraction d’énergie.

Les films de science-fiction oublient toujours ce problème. ^^
Bref, on a le temps de voir venir.

De plus, on est plus intelligent que les cafards, c’est pas pour autant qu’on arrive à s’en débarrasser. :p
Afficher tout
En parlant de film qui relate ce genre d'événement, le film Transcendance avec Johnny Deep est vraiment flippant...

a écrit : Il suffira de leur couper le courant ^^
C’est pas parce qu’on est intelligent qu’on n’est pas bêtement dépendant d’un truc vital. En particulier un truc entièrement virtuel qui reste bêtement dépendant du monde matériel pour exister.

Il y aura peut être une autre singularité, quand on arrivera à fair
e des robots capable de s’auto-entretenir. Et d’entretenir l’ensemble du système d’extraction d’énergie.

Les films de science-fiction oublient toujours ce problème. ^^
Bref, on a le temps de voir venir.

De plus, on est plus intelligent que les cafards, c’est pas pour autant qu’on arrive à s’en débarrasser. :p
Afficher tout
Sans être spécialiste, il y a qd même pas mal de films qui abordent ce thème : terminator, matrix, blade runner...

Beaucoup parlent de la faible probabilité qu'aurait une IA de réussir à "évoluer" toute seule.
Pourtant l'être humain n'était à la base qu'un animal parmis tant d'autres ; les mutations génétiques et le contrôle de son environnement lui a permis d'évoluer, de se réparer, de se doper.

Certains réduisent l'IA à quelques algorithmes statistiques. C'est pourtant bien plus que ça ; c'est le fruit de nos connaissances dans bien des domaines (maths, psychologie, neurosciences, économie, informatique). Une IA peut désormais resoudre des problèmes complètements différents. Les avancées en 30 ans font froid dans le dos.

Il y a 30 ans de ça, pouvions-nous imaginer un monde aussi connecté qu'aujourd'hui ? Et dans 30 ans ?

Pourtant l'apport de l'IA est incontestable et donc inarrêtable ; mais est-ce raisonnable ?

L'humain aura t'il la même place dans un monde devenu totalement autonome ou serons-nous relégués à l'état de singe par notre propre création ?

a écrit : Ne vous enflamez.pas, on est encore très très loin de mettre une veritable IA au point. Comme dit plus haut, pour l'instant ce ne sont que des statistiques très poussées. Les prouesses du deep learning restent impressionantes, la reconnaissance d'objets, le.jeu de go etc, mais dans son foncionnement il n';y a aucune intelligence, nada, peau de couille. La machine excecute des algorythmes, fait des correlations de données tellement complexe que l'on ne comprend plus bien ce qu'elle fait, mais il n'y a aucune autonomie dans ses décisions, aucune inteligence a proprement parler, aucune conscience, et on en est très très très loin... Afficher tout Je pense que tu as loupé un épisode.
Ce que décrit l'un des champions de go qui a été battu par la machine, c'est qu'elle s'améliore d'une partie à l'autre.
Les exemples sont nombreux.
Oui, les programmes basés sur l'IA sont capables d'apprendre et de se perfectionner.
Rien à voir avec l'IA ďil y a quelques années, et les progrès sont TRÈS rapides.
Dans très peu d'années, les médecins seront dépassés par les machines.
Tous les médecins.
On peut penser qu'il en sera de même pour les musiciens, les informaticiens etc.