Qu'est-ce que le point de singularité technologique ?

Proposé par
le
dans

La technologie évolue, et elle le fait aussi et surtout à une vitesse exponentielle. L'humanité serait ainsi très proche du moment où les technologies comme l'IA atteindront un point d'explosion tel que l'homme ne pourra suivre : c'est ce qui s'appelle la théorie du point de singularité technologique. Passé ce point de singularité technologique, on ne sait pas ce qui peut arriver.

Les plus optimistes parlent d'un âge d'or où même la mort pourrait être vaincue, d'autres au contraire y voient la disparition de l'humanité. Les premières estimations prévoyaient l'arrivée de ce point dans la deuxième moitié du XXIe siècle, mais il pourrait survenir bien plus tôt au vu de ce qui a été déjà fait pendant les 15 premières années de ce siècle.


Tous les commentaires (73)

a écrit : Tiré de l’excellent article de Wait but Why (en anglais dans les sources, traduction par moi) : “Imaginez que vous remontiez jusqu’en 1750 - Dans une période de guerre continuelle, où les communications longue distance se résument à crier très fort ou envoyer des boulets de canon, et où tous les moyens de transports étaient nourris au foin. Quand vous arrivez, vous prenez quelqu’un, le ramenez en 2015 et lui faites visiter les alentours pour voir sa réaction. Il serait impossible pour nous de comprendre ce qu’il pourrait ressentir en voyant des capsules brillantes foncer sur une des routes énormes, en parlant à des gens qui ont été de l’autre côté de l’océan le matin même, en regardant un match de sport qui se passe à 500 km d’ici, en écoutant une comédie musicale qui s’est passée il y a 50 ans, et en utilisant un petit rectangle magique pour enregistrer une image en temps réel, générer une carte avec un petit point bleu qui indique où il est, regarder et parler avec quelqu’un à l’autre bout du pays, et plein d’autres sorcelleries. Tout ça avant de lui montrer l’Internet, lui expliquer l’ISS, le LHC, les armes nucléaires ou la relativité générale.

Cette expérience ne serait pas surprenante ou choquante pour lui, ou même ‘mind blowing’ - Ces mots ne sont pas assez importants. En fait, il pourrait en mourir.

Mais ce n’est pas ce qui est le plus intéressant - Si maintenant, il retournait en 1750, et eut honte qu’on aie pu voir sa réaction, et voulait pouvoir faire la même chose, lui aussi remonterait le temps d’autant d’années pour prendre quelqu’un vivant aux environs de 1500, le ramènerait en 1750 et lui montrerait le monde. Cette personne serait certainement choquée par beaucoup de choses - mais, n’en mourrait pas. Ce serait une expérience -bien- moins folle pour lui, parce que, bien que 1500 et 1750 sont très différents, ils sont -bien- moins différents qu’entre 1750 et 2015. La personne de 1500 pourrait apprendre quelques informations incroyables sur l’espace et la physique, elle serait impressionnée par comment l’Europe est devenue impérialiste dans tous les sens, et elle devrait revoir sa copie de géographie. Mais en regardant la vie de tous les jours de 1750 - les transports, les communications, etc - Cela ne serait pas assez pour en mourir.

Non, pour que la personne de 1750 puisse voir la même réaction qu’elle a eue, elle devrait remonter bien plus loin dans le temps - peut-être jusqu’en 12000 avant Jésus Christ, avant que la révolution de l’agriculture ne donne naissance aux premières cités et au concept de civilisation. Si un chasseur-cueilleur pur et dur qui vit dans un monde où l’homme était au final un animal comme un autre, voyait le vaste empire humain de 1750 avec les églises, les navires qui traversent l’océan, le concept d’être ‘à l’intérieur’, et l’énorme montagne de connaissance et de découvertes humaines accumulée - Là, il pourrait en mourir.

Et, maintenant, si après être morte, cette personne eut également honte et voulait faire la même chose ? Elle remonterait le temps, peut-être quelque part entre 12 000 et 24 000 avant notre ère, pour ramener quelqu’un de là et lui montrer en -12000 ? Elle lui montrerait les alentours, mais la personne dirait ‘Oui, et alors ?’. Pour que la personne de -12000 puisse obtenir la même réaction, elle devrait aller bien plus loin en arrière, comme 100 000 ans avant et ramener quelqu’un pour lui montrer le feu et les langages.”
Afficher tout
17 janvier 2017, début de transmission :
"Ce matin mon voisin a ajouté un nouvel aileron a sa voiture tunée ainsi que de nouvelles enceintes, j'entend desormais les paroles de Jul."

a écrit : Tiré de l’excellent article de Wait but Why (en anglais dans les sources, traduction par moi) : “Imaginez que vous remontiez jusqu’en 1750 - Dans une période de guerre continuelle, où les communications longue distance se résument à crier très fort ou envoyer des boulets de canon, et où tous les moyens de transports étaient nourris au foin. Quand vous arrivez, vous prenez quelqu’un, le ramenez en 2015 et lui faites visiter les alentours pour voir sa réaction. Il serait impossible pour nous de comprendre ce qu’il pourrait ressentir en voyant des capsules brillantes foncer sur une des routes énormes, en parlant à des gens qui ont été de l’autre côté de l’océan le matin même, en regardant un match de sport qui se passe à 500 km d’ici, en écoutant une comédie musicale qui s’est passée il y a 50 ans, et en utilisant un petit rectangle magique pour enregistrer une image en temps réel, générer une carte avec un petit point bleu qui indique où il est, regarder et parler avec quelqu’un à l’autre bout du pays, et plein d’autres sorcelleries. Tout ça avant de lui montrer l’Internet, lui expliquer l’ISS, le LHC, les armes nucléaires ou la relativité générale.

Cette expérience ne serait pas surprenante ou choquante pour lui, ou même ‘mind blowing’ - Ces mots ne sont pas assez importants. En fait, il pourrait en mourir.

Mais ce n’est pas ce qui est le plus intéressant - Si maintenant, il retournait en 1750, et eut honte qu’on aie pu voir sa réaction, et voulait pouvoir faire la même chose, lui aussi remonterait le temps d’autant d’années pour prendre quelqu’un vivant aux environs de 1500, le ramènerait en 1750 et lui montrerait le monde. Cette personne serait certainement choquée par beaucoup de choses - mais, n’en mourrait pas. Ce serait une expérience -bien- moins folle pour lui, parce que, bien que 1500 et 1750 sont très différents, ils sont -bien- moins différents qu’entre 1750 et 2015. La personne de 1500 pourrait apprendre quelques informations incroyables sur l’espace et la physique, elle serait impressionnée par comment l’Europe est devenue impérialiste dans tous les sens, et elle devrait revoir sa copie de géographie. Mais en regardant la vie de tous les jours de 1750 - les transports, les communications, etc - Cela ne serait pas assez pour en mourir.

Non, pour que la personne de 1750 puisse voir la même réaction qu’elle a eue, elle devrait remonter bien plus loin dans le temps - peut-être jusqu’en 12000 avant Jésus Christ, avant que la révolution de l’agriculture ne donne naissance aux premières cités et au concept de civilisation. Si un chasseur-cueilleur pur et dur qui vit dans un monde où l’homme était au final un animal comme un autre, voyait le vaste empire humain de 1750 avec les églises, les navires qui traversent l’océan, le concept d’être ‘à l’intérieur’, et l’énorme montagne de connaissance et de découvertes humaines accumulée - Là, il pourrait en mourir.

Et, maintenant, si après être morte, cette personne eut également honte et voulait faire la même chose ? Elle remonterait le temps, peut-être quelque part entre 12 000 et 24 000 avant notre ère, pour ramener quelqu’un de là et lui montrer en -12000 ? Elle lui montrerait les alentours, mais la personne dirait ‘Oui, et alors ?’. Pour que la personne de -12000 puisse obtenir la même réaction, elle devrait aller bien plus loin en arrière, comme 100 000 ans avant et ramener quelqu’un pour lui montrer le feu et les langages.”
Afficher tout
Merci! :)

Posté le

android

(0)

Répondre

a écrit : Un remède à tous les cancers ?! Lol. Il ne faut pas oublier que les cancers sont en majorité le résultat de notre société industrielle (pollution de l'air, pesticides et additifs dans notre alimentation, etc.). Donc c'est une course de vitesse entre la technologie qui produit les cancers et la technologie qui les soigne. Au moyen-age s'est jouée la course entre les projectiles et les blindages. Finalement ce sont les projectiles qui ont gagné... Afficher tout Les cancers ont toujours existé et rien ne permet d'affirmer qu'ils sont "majoritairement" causés par notre mode de vie moderne.

Posté le

android

(1)

Répondre

a écrit : Ça dépend de quelles technologies tu parles parce que si l'être humain n'avait pas réussi quelques avancées scientifiques et technologiques, on ne serait pas là à communiquer à travers nos tablettes/smartphones. J en suis bien conscient pour qui me prends tu ?
C est une façon de parler pour lancer un peu une sonnette d alarme sur le devenir de l humanité celui de la Terre.

Posté le

android

(0)

Répondre

a écrit : Ce concept de singularité technologique n'est pas loin d'être une simple absurdité basée sur de faux postulats. Je vous encourage à lire d'abord les commentaires de l'OP afin de comprendre de quoi je parle.

Tout d'abord, on se base sur le fait que le progrès technologique n'es
t pas linéaire mais exponentiel. Cela se vérifie historiquement jusqu'au début du 21eme siècle mais ce n'est déjà plus vrai aujourd'hui, votre ordinateur n'est plus aussi vite obsolète qu'il l'était dans les années 90. En fait, la progression n'est même plus linéaire mais tend plutôt vers une courbe logarithmique, suggérant un maximum.

Le deuxième point justement est la question du maximum. Pour qu'une singularité technologique puisse survenir, il faut que les progrès technologiques et informatiques n'aient pas de maximum, or tout porte à croire que c'est bien le cas. Les ordinateurs notamment, ne fonctionnent pas à la magie noire mais bien selon des principes physiques. Le but lorsqu'on veut améliorer un ordinateur est de le rendre plus petit et moins énergivore, or, les lois de la physique nous empêchent de réduire la dimension des composants au delà d'une certaine limite (d'ores et déjà atteinte). Aucun argument rationnellement construit à part "ça a toujours été comme ça jusqu'à maintenant" ne permet de supposer que l'informatique puisse progresser à l'infini, un ordinateur est après tout une machine au même titre que votre moteur de voiture, avec une efficacité qui ne sera jamais de 100% simplement à cause des lois de la physique.

Enfin, le principal postulat de cette théorie est lié à l'intelligence artificielle. Il suppose que si on crée une IA n°1 plus performante que nous, et qu'on lui demande de développer IA n°2, alors celle ci sera plus rapidement développée et plus perfectionnée. Ensuite IA 2 créé une IA 3 encore meilleure et encore plus rapidement, et quelques heures à peine plus tard IA 189756 est infiniment plus intelligente que nous. (Mal)heureusement, ce postulat n'est encore une fois basé sur aucune raison logique. Certes, pour la transition de IA 1 à 2 on peut supposer qu'un robot n'étant pas limité à la vitesse de nos 10 doigts pour taper, il pourrait coder une nouvelle IA plus rapidement que nous. Mais meilleure ? Pourquoi coderait-il mieux à partir de la même base de connaissances sur l'informatique et sur l'intelligence ? Concrètement qu'est-ce qui lui permettrait de faire mieux que nous avec les mêmes outils ? On a aucune garantie qu'il arriverait à faire un autre programme plus intelligent que lui même, et de plus passé cette première étape aucun n'indice n'indique que les suivantes seront de plus en plus rapides, les IA à chaque étape seraient limités par la puissance du matériel sur lequel ils tournent, et n'ont aucune raison de faire mieux que leur prédécesseur.

Concrètement c'est une théorie que la physique aurait pu démonter à l'époque de sa formulation, et dont l'Histoire maintenant tend à prouver l'imprécision.
Afficher tout
Je vais juste rebondir sur les ordinateurs et les limites dimensionnelles des composants sont tu fais référence, au fait avec les ordinateurs quantiques cela ne serait plus problématique et et une vraie révolution est prévoir dans ce domaine

Posté le

android

(2)

Répondre

a écrit : J'aime bien le zèle présent dans cette réponse. On parle d'un « non retour » technologique, c'est à dire une avancée telle qu'on ne puisse ensuite faire machine arrière. Couper le courant ? Quasiment certain qu'une intelligence artificielle aura compris le concept de l'interrupteur électrique.

Peu probable qu'une intelligence artificielle se limite à l'endroit où elle aura été développée. Plus probable qu'elle prolifère dans l'Internet (celui des objets, des réseaux, etc.) de sorte que le seul interrupteur qu'on puisse actionner soit celui qui nous renvoie à l'âge de pierre.

C'est pas un problème qu'on peut résoudre. On ne sait pas dans quel sens cela peut évoluer donc dire qu'on coupe le courant car on est plus intelligent que les cafards et que les cafards n'ont disparu est un non sens. Le cafard n'a pas conscience des civilisations, des générations futures, d'exister, ni du monde dans lequel ils vivent contrairement à une IA qui aurait atteint un point de non retour.

C'est pas un problème à prendre à la légère et c'est bien là où le bât blesse. Les développeurs d'IA ne voient que l'aspect positif de ces nouvelles technologies et oublient les risques.
Afficher tout
Ce que j’essayais de faire comprendre, c’est que toutes ces spéculations déconnectées de la réalité qui fantasmes sur une courbes mathématiques ... sont déconnectés de la réalité. Et oublient le petit détail à la con qui fou tout en l’air.

L’exponentielle n’existe pas dans le monde réel, c’est un fantasme mathématique. Un biais mental.
Entrez vous ça dans le crâne.

Plus la courbe croît, plus un petit détail réel qu’on avait effacé de notre analyse au début va prendre une importance capitale, et faire s’effondrer tout le baltringue.

Et je peux même te dire lequel va tout foutre en l’air dans ce beau raisonnement : le courant.

Notre progrès technologique ne suit pas une courbe exponentielle.
Il suit la courbe de notre consommation énergétique.
Quand il fallait 1 baril de pétrole pour en extraire 100, on pouvait croire à l’exponentielle, et c’est LÀ la cause réelle de la forme de cette courbe. 1 baril donne 100 barils, qui donnent 10 000 barils etc... c’est beau cette exponentielle !

Sauf qu’au fur et à mesure qu’on pompe les réserves, qui ont mis des millions d’années à se constituer, notre exponentielle se réduit. De 1-100 on est passé à 1-10 grand max aujourd’hui. Le solaire est à 1-3 et l’éolien à 1-5.
Le gaz de schiste à 1-5 aussi et les pétroles bitumeux à 1-3.

Avec une conso de 1-3 notre civilisation s’effondre.
Et toute sa technologie avec, en commençant par internet. (Oui, ça n’existait pas il y a 20 ans, ça pourrait très bien disparaître dans 10-15 ans. Surtout si on continu à croire que comme c’est cool, ça sera forcément éternel. Et qu’on ne prépare pas la survie du système. >_< )


Pas de bol. Avec le nez focalisé sur l’accélération de la courbe on a oublié que le carburant dans le réservoir suivait la mème courbe dans l’autre sens.
Et quand il n’y en aura plus, ta super exponentielle va se casser la gueule et on va se retrouver au moyen âge.

Les explosions, c’est bien. Mais à un moment, soit tu épuise le carburant, soit y a un truc qui pète dans la machine.

Ça c’est le monde réel qui le dis. Le physicien, qui rappelle au mathématicien que la croissance infinie dans un monde fini, c’est une énorme connerie.

;)

a écrit : Ce que j’essayais de faire comprendre, c’est que toutes ces spéculations déconnectées de la réalité qui fantasmes sur une courbes mathématiques ... sont déconnectés de la réalité. Et oublient le petit détail à la con qui fou tout en l’air.

L’exponentielle n’existe pas dans le monde réel, c’est un fantasme
mathématique. Un biais mental.
Entrez vous ça dans le crâne.

Plus la courbe croît, plus un petit détail réel qu’on avait effacé de notre analyse au début va prendre une importance capitale, et faire s’effondrer tout le baltringue.

Et je peux même te dire lequel va tout foutre en l’air dans ce beau raisonnement : le courant.

Notre progrès technologique ne suit pas une courbe exponentielle.
Il suit la courbe de notre consommation énergétique.
Quand il fallait 1 baril de pétrole pour en extraire 100, on pouvait croire à l’exponentielle, et c’est LÀ la cause réelle de la forme de cette courbe. 1 baril donne 100 barils, qui donnent 10 000 barils etc... c’est beau cette exponentielle !

Sauf qu’au fur et à mesure qu’on pompe les réserves, qui ont mis des millions d’années à se constituer, notre exponentielle se réduit. De 1-100 on est passé à 1-10 grand max aujourd’hui. Le solaire est à 1-3 et l’éolien à 1-5.
Le gaz de schiste à 1-5 aussi et les pétroles bitumeux à 1-3.

Avec une conso de 1-3 notre civilisation s’effondre.
Et toute sa technologie avec, en commençant par internet. (Oui, ça n’existait pas il y a 20 ans, ça pourrait très bien disparaître dans 10-15 ans. Surtout si on continu à croire que comme c’est cool, ça sera forcément éternel. Et qu’on ne prépare pas la survie du système. >_< )


Pas de bol. Avec le nez focalisé sur l’accélération de la courbe on a oublié que le carburant dans le réservoir suivait la mème courbe dans l’autre sens.
Et quand il n’y en aura plus, ta super exponentielle va se casser la gueule et on va se retrouver au moyen âge.

Les explosions, c’est bien. Mais à un moment, soit tu épuise le carburant, soit y a un truc qui pète dans la machine.

Ça c’est le monde réel qui le dis. Le physicien, qui rappelle au mathématicien que la croissance infinie dans un monde fini, c’est une énorme connerie.

;)
Afficher tout
Je comprends parfaitement ce qui est énoncé ici. Mais, n'a aucun lien avec cette singularité que j'ai caractérisé de "point de non retour technologique".

L'éolienne existe. Le nucléaire à encore de beaux jours devant lui. Le solaire est pas trop mal placé. On trouvera toujours un moyen de produire du courant et une intelligence artificielle n'aura aucun mal à trouver une solution à ses besoins énergétiques. Il n'existe pas que le pétrole, ou le gaz de schiste, etc. Y a d'autres biais qui demandent de l'argent, certes, mais qui existent. Quand le pétrole manquera, sur le marché apparaîtra le nouveau diesel, ou les centrales à éthanol, où on récupérera les gaz dans les usines de traitements des eaux usées pour faire tourner le monde. Y a plein de moyens de produire de l'énergie alors, plutôt que de se focaliser sur des problèmes auxquels d'autres ont des solutions (économiques), il faut regarder le plus gros problème en face nous.

On planche d'ores et déjà sur les intelligences artificielles, on leur apprend à être de plus en plus performant, certaines ont même réussi à communiquer entre elle sans que l'on puisse savoir ce qui a été dit. C'est pas une courbe mathématique, c'est un fait. Chaque avancée technologique ou dans notre société ne s'est pas finie par une régression massive mais par un bond en avant. Le pétrole s'épuise, on cherche d'autres moyens, c'est ce que fait l'homme, il cherche d'autres biais.

L'intelligence Artificielle, c'est cool. Amasser des donnes, les traiter, évaluer des menaces, prédire des incidents, c'est déjà fait. Il existe une IA Ouverte qui récupère les flux d'informations mondiales et qui ""prédit"" des tendances. On trouvera un moyen de faire du courant, on trouvera un moyen de faire survivre internet car c'est une sacrée manne financière qui nous connecte tous. Et, en étant toujours plus connecté, on apprendra aux intelligences artificielles comment nous fonctionnons et ainsi, elles n'auront aucun mal à nous surpasser. Peu importe les lois mathématiques, physiques que nous avons énoncé.

Paradoxalement j'ai voté "intéressant" sur cette anecdote en voulant voir les réactions, mais je pense que c'est une vaste mystification (parfois voulue et entretenue, parfois un auto-aveuglement).
Les commentaires sont dans la lignée du vaste mouvement culturel entourant toute cette mythologie de la "singularité technologique". On est transhumaniste, techno-enthousiaste, techno-sceptique, néo-luddite, etc. Ce qui est sûr c'est que ce sujet engendre souvent des réactions émotionnelles fortes, voire épidermiques. Mais justement, c'est rarement un bon signe d'analyse posée et objective.

En tout premier lieu il faudrait une définition claire et nette de l'intelligence, ce qui est rarement le cas. Et c'est sûr que l'on part dans des débats philosophiques du coup. Et qu'en est-il de la conscience, etc.? Et bien sincèrement contrairement à ce qu'affirment certains, le libre-arbitre n'est pas de plus en plus remis en question par la science, et les quelques scientifiques connus qui parlent de précautions à prendre, soit ignorent tout (ou en tout cas beaucoup) de la branche informatique de l'IA, soit ont des propos déformés par les tenants d'un transhumanisme extrême (dans la béatitude ou dans la paranoïa). Les quelques arguments avancés tiennent plus de la réflexion sur des scénarios de romans qu'autre chose.
Les IA servent à automatiser un grand nombre de processus, et quelques unes, à la marge, sont utilisées pour le développement, dans certains domaines uniquement.
Donc non, les médecins ne vont pas être tous remplacés par des IA à court terme, même s'ils s'aident de plus en plus de cette technologie, avec raison et succès. Et non il ne va pas y avoir de soulèvement de robots contre l'oppression des esclavagistes humains, pour cela il faudrait déjà qu'une machine comprenne qu'elle existe... Trop d'anthropomorphisme est versé dans ce domaine, mais ça fait vendre des bouquins, des films, des auteurs et j'en passe...
La seule et unique chose inquiétante qui pourrait arriver serait l'automatisation de la réponse nucléaire, mais quand on voit l'état des bases américaines et russes, qui fonctionnent encore avec les disquettes 3¼ pouces, on se dit que c'est pas pour demain! Lol.
Et ceux qui disent qu'un programme peut apprendre et "dépasser" un humain dans un domaine, certes, mais le programme ne comprend pas ce qu'il fait, ne comprend pas qu'il est meilleur, ne comprend pas qu'il bat les humains. Et il le fait dans un cadre tellement précis et restreint!
Quant à ceux qui pensent que l'on ne peut pas imaginer les technologies futures et e qu'elles permettront, exactement! Pourquoi se permettre de dire que la technologie évolue de façon exponentielle (ça reste à prouver) et le fera toujours? Pourquoi se permettre de dire qu'une "singularité" va avoir lieu?
Au final, les obstacles sont tout autant imprévisibles que les découvertes révolutionnaires.
Ah et désolé Luick, mais un homme de 1750 ne décéderait pas en arrivant au XXIème siècle. C'est peut-être une métaphore, mais c'est exagéré dans tous les cas.

a écrit : Paradoxalement j'ai voté "intéressant" sur cette anecdote en voulant voir les réactions, mais je pense que c'est une vaste mystification (parfois voulue et entretenue, parfois un auto-aveuglement).
Les commentaires sont dans la lignée du vaste mouvement culturel entourant toute cette mythologi
e de la "singularité technologique". On est transhumaniste, techno-enthousiaste, techno-sceptique, néo-luddite, etc. Ce qui est sûr c'est que ce sujet engendre souvent des réactions émotionnelles fortes, voire épidermiques. Mais justement, c'est rarement un bon signe d'analyse posée et objective.

En tout premier lieu il faudrait une définition claire et nette de l'intelligence, ce qui est rarement le cas. Et c'est sûr que l'on part dans des débats philosophiques du coup. Et qu'en est-il de la conscience, etc.? Et bien sincèrement contrairement à ce qu'affirment certains, le libre-arbitre n'est pas de plus en plus remis en question par la science, et les quelques scientifiques connus qui parlent de précautions à prendre, soit ignorent tout (ou en tout cas beaucoup) de la branche informatique de l'IA, soit ont des propos déformés par les tenants d'un transhumanisme extrême (dans la béatitude ou dans la paranoïa). Les quelques arguments avancés tiennent plus de la réflexion sur des scénarios de romans qu'autre chose.
Les IA servent à automatiser un grand nombre de processus, et quelques unes, à la marge, sont utilisées pour le développement, dans certains domaines uniquement.
Donc non, les médecins ne vont pas être tous remplacés par des IA à court terme, même s'ils s'aident de plus en plus de cette technologie, avec raison et succès. Et non il ne va pas y avoir de soulèvement de robots contre l'oppression des esclavagistes humains, pour cela il faudrait déjà qu'une machine comprenne qu'elle existe... Trop d'anthropomorphisme est versé dans ce domaine, mais ça fait vendre des bouquins, des films, des auteurs et j'en passe...
La seule et unique chose inquiétante qui pourrait arriver serait l'automatisation de la réponse nucléaire, mais quand on voit l'état des bases américaines et russes, qui fonctionnent encore avec les disquettes 3¼ pouces, on se dit que c'est pas pour demain! Lol.
Et ceux qui disent qu'un programme peut apprendre et "dépasser" un humain dans un domaine, certes, mais le programme ne comprend pas ce qu'il fait, ne comprend pas qu'il est meilleur, ne comprend pas qu'il bat les humains. Et il le fait dans un cadre tellement précis et restreint!
Quant à ceux qui pensent que l'on ne peut pas imaginer les technologies futures et e qu'elles permettront, exactement! Pourquoi se permettre de dire que la technologie évolue de façon exponentielle (ça reste à prouver) et le fera toujours? Pourquoi se permettre de dire qu'une "singularité" va avoir lieu?
Au final, les obstacles sont tout autant imprévisibles que les découvertes révolutionnaires.
Ah et désolé Luick, mais un homme de 1750 ne décéderait pas en arrivant au XXIème siècle. C'est peut-être une métaphore, mais c'est exagéré dans tous les cas.
Afficher tout
La question de l'existence du libre arbitre n'est pas une évidence et est bien remis en cause par certaines études.

Posté le

android

(1)

Répondre

On part de quelque chose qui n'est pas défini : l'intelligence.

Il existe plusieurs formes d'intelligence dans le règne animal. L'Homme est doté de huit formes d'intelligence alors que les ordinateurs ne sont que le fruit d'une seule, l'intelligence logico-mathématique humaine. Le fruit, pas le détenteur.
Avec la notion-même d'IA, nous nageons en plein conte de fée. Cela ne peut exister. De là philosopher sur la mainmise sur le monde par quelque chose de définitivement inexistant...

a écrit : En fait, on ne peut pas parler d'innovations technologiques, mais d'améliorations progressives, constantes et en accélération de technologies existant déjà en 1900 (fin du XIXème siècle)
Les seules découvertes innovantes sont le CD, le Microondes et le velcro (voir MiB)
Pour l'IA, si ce sont
des êtres humains qui la créent, ils ne pourront pas faire mieux que ce qu'ils connaissent de l'"intelligence", c'est à dire pas grand chose. On peut augmenter la taille des bases de données, les remplir jusqu'à plus soif, mais une machine, aussi perfectionnée qu'elle soit, ne peut actuellement pas concevoir sans information sur la notion de concept. L'imagination et l'initiative libre (non programmée) ne peuvent se prédire, c'est le propre du vivant.
Ça ne veut pas dire qu'on aura pas l'impression d'être en face d'une technologie impressionnante, possiblement dangereuse, qu'une machine peut sembler vivre, mais je ne pense pas qu'elle puisse survivre en "transmettant" à sa descendance.
Bon, de toute façon, la plupart d'entre nous ne sera plus là pour le voir.
Afficher tout
Certains imaginent des machines avec une IA très performante et douées d'émotions. Cela n'a pas d'intérêt. C'est l'émotion qui freine l'intelligence. Une IA sans émotion sera donc plus performante que nous. Elle pourra innover et travailler sans se reposer, sans douter, sans frein. une IA ne pourra travailler qu'avec ce que l'homme lui a ''donné''. C'est lorsqu'elle apprendra seule, qu'elle créera ses connexions synaptiques qu'elle nous dépassera mais sans en avoir conscience, elle saura mais ne saura pas qu'elle sait elle sera au stade du sapiens​, pas encore à celui du sapiens sapiens. Elle ne pourra donc pas ressentir de sentiment, notamment celui d'être en danger face à son ''créateur'' et ne ressentira pas l'urgence de le faire disparaitre. Respirez

Ton commentaire n a ni queue ni tête, se contredis et ne veux rien dire... de plus pour ta culture général la définition sapiens sapiens n existe plus depuis un moment déjà (nous sommes tous ses Homo sapiens).

Posté le

android

(0)

Répondre

a écrit : En fait, on ne peut pas parler d'innovations technologiques, mais d'améliorations progressives, constantes et en accélération de technologies existant déjà en 1900 (fin du XIXème siècle)
Les seules découvertes innovantes sont le CD, le Microondes et le velcro (voir MiB)
Pour l'IA, si ce sont
des êtres humains qui la créent, ils ne pourront pas faire mieux que ce qu'ils connaissent de l'"intelligence", c'est à dire pas grand chose. On peut augmenter la taille des bases de données, les remplir jusqu'à plus soif, mais une machine, aussi perfectionnée qu'elle soit, ne peut actuellement pas concevoir sans information sur la notion de concept. L'imagination et l'initiative libre (non programmée) ne peuvent se prédire, c'est le propre du vivant.
Ça ne veut pas dire qu'on aura pas l'impression d'être en face d'une technologie impressionnante, possiblement dangereuse, qu'une machine peut sembler vivre, mais je ne pense pas qu'elle puisse survivre en "transmettant" à sa descendance.
Bon, de toute façon, la plupart d'entre nous ne sera plus là pour le voir.
Afficher tout
Alors explique moi pourquoi récemment 2 IA on réussi a communiqué ensemble en creant eux meme un language codé que les chercheurs n'ont pas réussi a décrypter ?

a écrit : Je comprends parfaitement ce qui est énoncé ici. Mais, n'a aucun lien avec cette singularité que j'ai caractérisé de "point de non retour technologique".

L'éolienne existe. Le nucléaire à encore de beaux jours devant lui. Le solaire est pas trop mal placé. On trouvera toujours un
moyen de produire du courant et une intelligence artificielle n'aura aucun mal à trouver une solution à ses besoins énergétiques. Il n'existe pas que le pétrole, ou le gaz de schiste, etc. Y a d'autres biais qui demandent de l'argent, certes, mais qui existent. Quand le pétrole manquera, sur le marché apparaîtra le nouveau diesel, ou les centrales à éthanol, où on récupérera les gaz dans les usines de traitements des eaux usées pour faire tourner le monde. Y a plein de moyens de produire de l'énergie alors, plutôt que de se focaliser sur des problèmes auxquels d'autres ont des solutions (économiques), il faut regarder le plus gros problème en face nous.

On planche d'ores et déjà sur les intelligences artificielles, on leur apprend à être de plus en plus performant, certaines ont même réussi à communiquer entre elle sans que l'on puisse savoir ce qui a été dit. C'est pas une courbe mathématique, c'est un fait. Chaque avancée technologique ou dans notre société ne s'est pas finie par une régression massive mais par un bond en avant. Le pétrole s'épuise, on cherche d'autres moyens, c'est ce que fait l'homme, il cherche d'autres biais.

L'intelligence Artificielle, c'est cool. Amasser des donnes, les traiter, évaluer des menaces, prédire des incidents, c'est déjà fait. Il existe une IA Ouverte qui récupère les flux d'informations mondiales et qui ""prédit"" des tendances. On trouvera un moyen de faire du courant, on trouvera un moyen de faire survivre internet car c'est une sacrée manne financière qui nous connecte tous. Et, en étant toujours plus connecté, on apprendra aux intelligences artificielles comment nous fonctionnons et ainsi, elles n'auront aucun mal à nous surpasser. Peu importe les lois mathématiques, physiques que nous avons énoncé.
Afficher tout
Merci pour le débat de qualité, argumenté.
Je comprends et respecte ton point de vu. Mais l’idée qu’on « trouvera » une solution est une hypothèse.
Le fait est qu’aujourd’hui nous n’avons pas la moindre solution viable pour entretenir notre propre civilisation à la fin du siècle.

Les éoliennes pourraient être une solution... mais comme il n’y aura plus de métaux nécessaires (car les métaux rares aussi s’épuisent) on va avoir en plus du pb de l’énergie un problème de matières premières.
Et ce dans moins d’un siècle.

Après, je ne contredis pas l’idée qu’il soit possible de construire une IA plus intelligente que nous.
Mais elle aura très peu de temps pour le faire. Et elle va se retrouver confrontée à des problèmes rapidement quasi insolubles.

En fait, c’est contre l’idée de la courbe de croissance exponentielle perpétuelle que je lutte. Parce que c’est une idée fausse tout simplement.
Les civilisations croissent et décroissent, voir s’effondrent.
Les romains maîtrisaient le béton, puis on est tombé dans les âges sombres et barbares, puis dans l’obscurantisme.
Il a fallut des millénaires pour qu’on redécouvre ces connaissances.
Il n’y a pas de croissance continue.

Ce qu’on appelle IA aujourd’hui ne sont en réalité que des statistiques. Les stats, ça a des capacités prédictives surprenantes. Ça peut déduire des trucs fou auquel on n’aurait pas pensée, mais c’est pas intelligent. Ça n’a aucune volonté, et aucun sentiments. Donc aucune conscience.

Là où les IA sont dangereuses, c’est qu’il s’agit de déléguer sa décision à quelqu’un d’autre. L’humain (l’entreprise) qui aura conçu l’algorithme, dans SON intérêt, et pas exactement le notre. C’est un humain qui décides des critères importants, et des choses à déterminer. (L’IA n’a pas de volonté)

Cette entreprise se dédouanera après sur la machine pour ne pas être accusé d’exploiter son monde. (On le fait déjà) En mode : c’est la machine qui a décidé. ( ou c’est des « études » qui le prouvent... études commandées par le grand industriel, par la méthode qu’il a déterminée, et avec les indicateurs qu’il a choisi )

Ça c’est vachement plus inquiétant : Oublier qu’il ne s’agit pas de nos intérêts que ces assistants servent, mais ceux de leurs concepteurs.
Et ça, ça va nous tomber sur la gueule bien plus vite qu’une vraie IA capable de volonté.

a écrit : Alors explique moi pourquoi récemment 2 IA on réussi a communiqué ensemble en creant eux meme un language codé que les chercheurs n'ont pas réussi a décrypter ? Parce qu’on leur a demandé de le faire. ;)
Puis qu’on a monté l’histoire pour faire un gros buzz sur le net.

Ne pas arriver à décrypter un échange, c’est pas la preuve d’une volonté ou d’une intelligence de part et d’autre.

Demandez vous « à qui profite le crime », vous comprendrez. ^^

a écrit : Ne vous enflamez.pas, on est encore très très loin de mettre une veritable IA au point. Comme dit plus haut, pour l'instant ce ne sont que des statistiques très poussées. Les prouesses du deep learning restent impressionantes, la reconnaissance d'objets, le.jeu de go etc, mais dans son foncionnement il n';y a aucune intelligence, nada, peau de couille. La machine excecute des algorythmes, fait des correlations de données tellement complexe que l'on ne comprend plus bien ce qu'elle fait, mais il n'y a aucune autonomie dans ses décisions, aucune inteligence a proprement parler, aucune conscience, et on en est très très très loin... Afficher tout Le truc, c’est que « intelligence artificielle » a deux sens. Celui du scientifique et celui du grand public.

Je m’explique:
Le « scientifique », ou « technicien » ne peut se détacher du contexte financier et répond à ce besoin en créant des machines qui peuvent remplacer un employé.
Le « grand public » pense à la machine ultime, qui peut remplacer un homme.

On pourrait potentiellement remplacer tous les employés. Même le type qui aurait décidé cela pourrait être remplacé. Mais s’il n’y a plus de salarié, il n’y a plus de client non plus.

On pourrait potentiellement remplacer parfaitement un homme. Mais personne ne dépensera d’argent dans une machine qui se trompe.

a écrit : Je m’explique:
Le « scientifique », ou « technicien » ne peut se détacher du contexte financier et répond à ce besoin en créant des machines qui peuvent remplacer un employé.
Le « grand public » pense à la machine ultime, qui peut remplacer un homme.

On pourrait potentiellement remplacer tous l
es employés. Même le type qui aurait décidé cela pourrait être remplacé. Mais s’il n’y a plus de salarié, il n’y a plus de client non plus.

On pourrait potentiellement remplacer parfaitement un homme. Mais personne ne dépensera d’argent dans une machine qui se trompe.
Afficher tout
Pourquoi s'il n'y a plus de salariés il n'y a plus de clients ?

Posté le

android

(0)

Répondre