Conscience et conscient

passager a écrit:

anadoncamille a écrit:

passager a écrit:Elle n'est pas VIVANTE.

Peux-tu définir "vivant" ?

Organisme animé par le souffle divin.

vertgandazert a écrit:
C'est ainsi que la fameuse IA,fait rêver certains, qui semblent choisir de n'en voir que les avantages, alors qu'elle peut devenir très vite un moyen de contrôle et de manipulation des consciences.

passager a écrit:L'arnaque de l'IA : pourquoi, comment :

l'arnaque du siècle

Professeur X a écrit:Hum , je comprend pas la fantasmagorique dérive de ce sujet sur le fait de vouloir prouver qu'une machine peut être consciente , certes les machines peuvent être complexes on peut même les penser "pensante" , mais plus une machine est complexe plus cela prouve que l'humain qui l'a créé est intelligent , on a encore jamais vu de machine créer des humains , et pour revenir à la conscience , ce n'est pas un concept , la conscience existe en tant que telle , ce n'est pas une fonction de notre essence mais un attribut de notre être , même un simple brin d'herbe est une machine plus complexe et que la plus évolué des prétendue IA , car ce simple brin d'herbe possède cet attribut qu'est la conscience , il y a des univers entre l'humain et la machine que seul  le romantisme fictionnel peut combler , je ne comprend pas encore une fois la dérive de ce sujet , mais bon , love .

Hakaan a écrit:(...) et son successeur AlphaGo Zero fait encore mieux, il n'a meme plus besoin d'humains pour apprendre, il s'entraine en jouant contre lui même

Hakaan a écrit:[ AlphaGo Zero fait encore mieux, il n'a meme plus besoin d'humains pour apprendre, il s'entraine en jouant contre lui même

Donc en fait à part nous expliquer que les IA sont encore très limitées à des domaines très précis je vois pas bien ou le mec veut en venir, ca c'est une limite technique pas une différence philosophique indépassable qui prouverait je ne sais quelle différence transcendante

Azaël.de.Lyon a écrit:Les scientifiques ont mis en lien deux IA.
Celles-ci ont développé un langage qui leur est propre pour pouvoir communiquer que nul n'est à se jour capable de comprendre...

passager a écrit: Je connais AlphaZero, qui développe une logique de calculs qui nous échappe, ce qui montre l'immensité du territoire de la logique, ce dont on se doute depuis longtemps.
Mais AlphaZero ne joue pas aux échecs : il ne JOUE pas : il exécute son programme, et il ne sait même pas qu'il exécute, il ne sait rien, il est juste stupide comme le souligne bien cet article, qui reste tout à fait actuel.
La différence transcendantale est que l'auteur de l'article a une réflexion, et Alpha Zero - zéro.
Entre autres différences, que j'ai largement exposées. Je ne vais pas reprendre, c'est écrit. Bref.
Un objet c'est un objet, et de la féraille c'est de la féraille.
Et nous, enfin c'est aussi un choix existentiel (ce dont est évidemment incapable un robot), nous sommes des consciences d'être : ici-bas et de l'autre côté, où il n'y a aucun robot.

Hakaan a écrit:

Ah bah oui les IA n'ont pas d'expérience sensible des choses, entre une IA qui créee de la musique et une qui joue à starcraft II il n'y a strictement rien qui se rend compte qu'il se passe quelque chose la dedans,
mais ca je suis d'accord et c'est la différence que je pointe pour définir la conscience depuis le début,
mais dire qu'une IA exécute un programme non ça c'est faux dans les termes, à la base elle est totalement vierge et sa configuration c'est elle même qui l'a crée par essaies/erreurs, et elle évolue à chaque nouvelle expérience, il n'y a personne qui a programmé quoi que ce soit,
ou alors si on considère qu'une IA exécute un programme, alors c'est aussi valable pour sa version biologique qui est aussi un ensemble de neurones qui exécutent des paternes,
en fait le probleme c'est que l'être du fait qu'il ait une conscience, croit que sa machine en est moins une machine, mais allez dire ca a que des gens après des accidents ont radicalement changé de personnalité ou se sont retrouvé soudainement avec des capacités de mathématiciens hors paire etc
C'est quelque d'assez intéressant la relation conscience/machine, mais absolument personne ne sait le comment du pourquoi la dedans

Azaël.de.Lyon a écrit:En fait depuis que les IA ont la capacité d'apprendre par elle-même, nul ne sait jusqu'où elles iront...
Certaines sont mêmes capables de réécrire une partie de leur code et de le faire évoluer...

passager a écrit:

Azaël.de.Lyon a écrit:En fait depuis que les IA ont la capacité d'apprendre par elle-même, nul ne sait jusqu'où elles iront...
Certaines sont mêmes capables de réécrire une partie de leur code et de le faire évoluer...

La stupidité de la féraille a des ressources. Mais même en rétro-boucle, même en interaction, ça reste définitivement de la stupidité. Ah, si un robot pouvait un seul instant contempler l'horizon...

Dans son texte fameux « Une difficulté dans la psychanalyse », S. Freud soulignait les trois blessures narcissiques que la science avait infligées à l’humanité : la blessure copernicienne (la terre n’est pas le centre de l’univers), la blessure darwinienne (l’homme est un animal comme les autres) et la blessure psychanalytique (« le Moi n’est pas le maître dans la maison »).

Azaël.de.Lyon a écrit:

passager a écrit:

Azaël.de.Lyon a écrit:En fait depuis que les IA ont la capacité d'apprendre par elle-même, nul ne sait jusqu'où elles iront...
Certaines sont mêmes capables de réécrire une partie de leur code et de le faire évoluer...

La stupidité de la féraille a des ressources. Mais même en rétro-boucle, même en interaction, ça reste définitivement de la stupidité. Ah, si un robot pouvait un seul instant contempler l'horizon...

Je te conseil de te renseigner sur les blessures narcissiques que la science à infligé à l'humanité.

Pour le moment, les IA ne peuvent pas "contempler" l'horizon on est d'accord.
Mais nul ne sait jusqu'où elles iront.
Si un jour elle devenait capable de la faire, c'est sûr que l'Homme vivrait une nouvelle blessure narcissique très difficile à avaler.

Edit :

Dans son texte fameux « Une difficulté dans la psychanalyse », S. Freud soulignait les trois blessures narcissiques que la science avait infligées à l’humanité : la blessure copernicienne (la terre n’est pas le centre de l’univers), la blessure darwinienne (l’homme est un animal comme les autres) et la blessure psychanalytique (« le Moi n’est pas le maître dans la maison »).

Source

Hakaan a écrit:

Certains essayent de nous prouver la singularité de la pensée humaine par des différences humain/machine qui en faite n'existent pas ou ne sont que des limites techniques que rien ne dit qu'on va pas finir par les dépasser, alors pour moi argumenter par là c'est une impasse et bien mal connaitre a la fois la machine organique et la machine informatique

Le neuroscientifique Stanislas Dehaene et le biologiste moléculaire Jean-Pierre Changeux, tous deux au Collège de France, à Paris, ont transposé ces idées à l’architecture du cortex, la couche externe du cerveau. Ils ont postulé que l’espace de travail repose sur un réseau de neurones dits « pyramidaux », qui relient des régions corticales éloignées, en particulier les zones associatives préfrontales, pariétotemporales et médianes (cingulaires).

Une grande partie de l’activité cérébrale reste localisée et de ce fait n’accède pas à la conscience. C’est le cas des modules neuronaux qui contrôlent la posture du corps ou la direction du regard. Mais lorsque l’activité d’une ou plusieurs régions dépasse un seuil critique – disons, lorsqu’on présente à quelqu’un l’image d’une friandise appétissante –, elle déclenche une vague d’excitation neuronale qui se propage à travers l’espace de travail, dans tout le cerveau. Ce signal devient alors accessible à une multitude de processus auxiliaires, tels que le langage, la planification, le circuit de la récompense, la mémoire à long terme et le stockage dans une mémoire tampon à court terme. Ce serait le fait de diffuser cette information à l’échelle globale qui la rendrait consciente. Ainsi, l’expérience subjective de la friandise appétissante résulterait de l’action de neurones pyramidaux qui ordonnent à la région motrice du cerveau de se saisir de la friandise, tandis que d’autres modules neuronaux anticipent une récompense sous la forme d’une poussée de dopamine, causée par le petit shoot de sucre et matières grasses à venir.

Si l’imitation des fonctions cérébrales suffit pour créer la conscience, la simulation numérique d’un cerveau créera une sorte de réincarnation de la personne. Sinon, ce sera une coquille vide.

En d’autres termes, les états conscients découleraient de la façon dont l’algorithme de l’espace de travail traite les entrées sensorielles, les sorties motrices et les variables internes liées à la mémoire, à la motivation et aux attentes. La conscience, ce serait ce traitement global. Pour les tenants de cette théorie, la conscience artificielle n’est pas exclue.

Hakaan a écrit:En neuro une thèse est que la conscience se créee quand beaucoup d'aires se mettent en phase pour travailler sur un objet
https://www.pourlascience.fr/sd/informatique/les-machines-peuvent-elles-etre-conscientes-18755.php

Le neuroscientifique Stanislas Dehaene et le biologiste moléculaire Jean-Pierre Changeux, tous deux au Collège de France, à Paris, ont transposé ces idées à l’architecture du cortex, la couche externe du cerveau. Ils ont postulé que l’espace de travail repose sur un réseau de neurones dits « pyramidaux », qui relient des régions corticales éloignées, en particulier les zones associatives préfrontales, pariétotemporales et médianes (cingulaires).

Une grande partie de l’activité cérébrale reste localisée et de ce fait n’accède pas à la conscience. C’est le cas des modules neuronaux qui contrôlent la posture du corps ou la direction du regard. Mais lorsque l’activité d’une ou plusieurs régions dépasse un seuil critique – disons, lorsqu’on présente à quelqu’un l’image d’une friandise appétissante –, elle déclenche une vague d’excitation neuronale qui se propage à travers l’espace de travail, dans tout le cerveau. Ce signal devient alors accessible à une multitude de processus auxiliaires, tels que le langage, la planification, le circuit de la récompense, la mémoire à long terme et le stockage dans une mémoire tampon à court terme. Ce serait le fait de diffuser cette information à l’échelle globale qui la rendrait consciente. Ainsi, l’expérience subjective de la friandise appétissante résulterait de l’action de neurones pyramidaux qui ordonnent à la région motrice du cerveau de se saisir de la friandise, tandis que d’autres modules neuronaux anticipent une récompense sous la forme d’une poussée de dopamine, causée par le petit shoot de sucre et matières grasses à venir.

Si l’imitation des fonctions cérébrales suffit pour créer la conscience, la simulation numérique d’un cerveau créera une sorte de réincarnation de la personne. Sinon, ce sera une coquille vide.

En d’autres termes, les états conscients découleraient de la façon dont l’algorithme de l’espace de travail traite les entrées sensorielles, les sorties motrices et les variables internes liées à la mémoire, à la motivation et aux attentes. La conscience, ce serait ce traitement global. Pour les tenants de cette théorie, la conscience artificielle n’est pas exclue.

Peut être que la conscience nait quand le systeme devient assez complexe

Totem a écrit:

vertgandazert a écrit:
C'est ainsi que la fameuse IA,fait rêver certains, qui semblent choisir de n'en voir que les avantages, alors qu'elle peut devenir très vite un moyen de contrôle et de manipulation des consciences.

Effectivement mais derrière l'IA il y aura toujours des humains pour contrôler cette manipulation des consciences, sinon ça voudrait dire que ce serait l'IA qui gouvernerait les humains, chose impossible puisqu'ils en sont les créateurs et peuvent les détruire en cas de problème.
Je vois mal ceux qui dirigent le monde se faire diriger par une IA.
Il suffit de revoir le film de science fiction  "2001 l'Odyssée de l'espace" ou l'ordinateur prend le contrôle et que finalement l'humain trouve un moyen de le détruire, ce qui montre que l'intellect de l'humain est supérieur quand il s'agit de trouver une solution dans une situation grave...
Bien que ce ne soit qu'une fiction, ça prouve que l'homme a imaginé que cela pourrait arriver.
Les idées de génie sont bien le propre de l'humain et elles viennent de plus haut que lui.

Hakaan a écrit:
en fait le probleme c'est que l'être humain du fait qu'il ait une conscience, croit que sa machine en est moins une machine,

mais allez dire ca a des gens qui après des accidents ont radicalement changé de personnalité ou se sont retrouvé soudainement avec des capacités de mathématiciens hors paire etc

C'est quelque chose d'assez intéressant la relation conscience/machine, mais absolument personne ne sait le comment du pourquoi la dedans