De grands projets. - page 6

 
Реter Konow:

L'IA moderne n'est pas plus dangereuse qu'une massue dans les mains d'un imbécile sur la grande route. Il ne fera rien par lui-même à personne.

Eh bien, c'est juste votre perception de vous-même, les réalités sont différentes.

A mon avis, vous êtes juste à la mauvaise extrémité du spectre. Tous ces tests de Turing, les réflexions dans le miroir, etc. ne sont que des moyens de comparaison avec l'intelligence humaine. Mais il n'est pas nécessaire d'être très intelligent pour commencer à détruire et à tuer. Lorsqu'un requin vous attaque, il se moque que vous soyez un être hautement intelligent et il ne passe même pas le test du miroir. Il vous dévorera sans sourciller. Et votre intelligence ne vous aidera pas.

 
Олег avtomat:

Mon chat scientifique est beaucoup plus conscient, équilibré mentalement, et dans sa zone d'esprit et très intelligent, comparé à de nombreux individus humains.

Vous, Peter, n'avez apparemment jamais eu d'expérience avec les animaux si vous pensez qu'ils n'ont pas d'esprit, pas de conscience, pas de psyché. Ils ont tout ça.

Et ce que vous n'avez certainement pas, ce sont des connaissances dans ce domaine. Au lieu de connaissances, ce sont des clichés communs.

En fait, dans mes déclarations, j'ai supposé la présence de rudiments de psyché et de proto-conscience chez les animaux. Je n'ai donc pas rencontré de chats hautement intellectuels qui seraient plus intelligents que certains individus humains. Si j'avais communiqué avec eux (avec de tels chats), peut-être, cela aurait-il changé ma vision du monde. Invitez votre chat à m'écrire en personne, s'il vous plaît. Très curieux.

À propos des clichés, - ils sont donc pleins non pas de moi (au contraire, j'ai des vues extraordinaires), mais de ceux qui pensent qu'une IA peut "se lever" et faire du mal à tout le monde. Il suffit d'avoir un peu de connaissances et d'esprit critique pour comprendre qu'à ce stade du développement technologique, c'est impossible.


P.S. Mais parlez quand même à votre chat. Il est intéressant de connaître son opinion.

 
Alexey Navoykov:

Eh bien, c'est juste l'image que tu te fais de toi, les réalités sont différentes.

À mon avis, vous raisonnez simplement du mauvais côté. Tous ces tests de Turing, les réflexions dans le miroir, etc. ne sont que des moyens de comparaison avec l'intelligence humaine.Mais il n'est pas nécessaire d'être très intelligent pour commencer à détruire et à tuer.Lorsqu'un requin vous attaque, il se moque que vous soyez un être hautement intelligent et il ne passe même pas le test du miroir. Il vous dévorera sans sourciller. Et votre intelligence ne vous aidera pas.

En gros, oui. Un virus affecte également le corps sans avoir un but conscient. Mais nous devrions alors parler de défaillances de systèmes complexes, et non d'un "soulèvement de l'IA".

Le danger de l'IA est jugé plus élevé, précisément en raison de son "intelligence", qui lui confère un avantage énorme sur un virus ou un prédateur. Si l'IA avait l'intelligence et l'agressivité d'un requin, il ne faudrait logiquement pas plus d'efforts pour la détruire que pour chasser un requin mangeur d'hommes. /*Avez-vous déjà entendu parler d'un requin que personne ne pouvait manipuler et qui mangeait des gens sur tout le continent ?

Le fait est que l'esprit le plus fort dominera toujours l'esprit le plus faible. C'est comme ça que la vie fonctionne. Tant que l'esprit de l'homme est plus fort que l'esprit de n'importe quel animal, et encore moins d'un programme, il n'a rien à craindre. Toutefois, lorsque l'IA acquiert une intelligence supérieure à celle des humains et assure sa liberté et son indépendance, ce n'est qu'à ce moment-là qu'elle devient dangereuse pour les humains. Ce n'est pas un fait qu'il aura de mauvaises intentions. Il sera tout simplement incontrôlable.

Pour créer une telle IA, l'intelligence de l'homme moderne doit être incommensurablement plus élevée. Et tant que ce n'est pas le cas, il n'y a pas de danger. )

 
Реter Konow:

En fait, dans mes déclarations, j'ai supposé la présence de rudiments de psyché et de proto-conscience chez les animaux. En même temps, je n'ai pas rencontré de chats très intelligents, qui seraient plus intelligents que certains individus humains. Si j'avais communiqué avec eux (avec de tels chats), peut-être, cela aurait-il changé ma vision du monde. Invitez votre chat à m'écrire en personne, s'il vous plaît. Très curieux.

À propos des clichés, - ils sont donc pleins non pas de moi (au contraire, j'ai des vues extraordinaires), mais de ceux qui pensent qu'une IA peut "se lever" et faire du mal à tout le monde. Il suffit d'avoir un peu de connaissances et d'esprit critique pour comprendre qu'à ce stade du développement technologique, c'est impossible.


P.S. Mais parle au chat après tout. Il est intéressant de connaître son opinion.


Allez, presque tous les chats sont plus intelligents que les humains.

1 - Ils ne vont pas au travail.

2 - Chaque chat a au moins un esclave sous la forme d'un humain qui :

a - les nourrit,

b - nettoie son bac à litière.

3 - Ils ne montrent pas leur intelligence, de peur d'être trompés et embobinés par les points 1 et 2.

 
Реter Konow:


P.S. Mais parlez au chat. Il serait intéressant de connaître son opinion.


.

 
Dmitry Fedoseev:

Allez, presque tous les chats sont plus intelligents que les gens.

1 - Ils ne vont pas au travail.

2 - Chaque chat a au moins un esclave sous la forme d'un humain qui :

a - les nourrit,

b - nettoie son bac à litière.

3 - Ils ne montrent pas leur intelligence, de peur d'être trompés et embobinés par les points 1 et 2.

Mon Dieu, comme nous avons manqué le fait de cet asservissement total !

Peuple - unissez-vous contre un soulèvement mondial des chats ! C'est inévitable ! ))

Que Dieu et les chiens nous aident ! )))

 
Alexey Navoykov:

Eh bien, c'est juste l'image que tu te fais de toi, les réalités sont différentes.

À mon avis, vous êtes juste à la mauvaise extrémité du spectre. Tous ces tests de Turing, les réflexions dans le miroir, etc. ne sont que des moyens de comparaison avec l'intelligence humaine. Mais il n'est pas nécessaire d'être très intelligent pour commencer à détruire et à tuer. Lorsqu'un requin vous attaque, il se moque que vous soyez un être hautement intelligent et il ne passe même pas le test du miroir. Il vous dévorera sans sourciller. Et votre intelligence ne vous aidera pas.

Je vais essayer de prendre votre position pour regarder la situation sous un angle différent. Spéculons dans le style du genre science-fiction et cherchons les failles logiques.

Option 1 : utiliser l'IA pour réaliser les mauvaises intentions des escrocs et des bandits.

Et donc - le futur proche.

Le développement des machines intelligentes bat son plein. Une entreprise crée des robots dotés de systèmes de propulsion, d'unités de puissance et de logiciels avancés qui peuvent remplacer les humains dans les travaux physiques difficiles. Grâce à une avancée technologique, ses drones gagnent en autonomie conditionnelle, ce qui leur permet d'optimiser leur propre travail et d'améliorer leurs performances dans le cadre de contraintes données. Leur logique de bas niveau est suffisante pour qu'ils puissent allouer rationnellement leurs propres ressources à des tâches de production simples telles que l'emballage, le chargement et le transport de marchandises, ou l'assemblage de pièces sur un tapis roulant.

Un gang, vole un lot de robots dans les entrepôts d'une entreprise et pirate leur logiciel. Les hackers reprogramment les drones.

Quelles sont les utilisations potentielles des robots à ce niveau ? - Couverture de feu et augmentation du nombre de leurs combattants en les joignant à des doubleurs métalliques. Leur efficacité au combat ou en cas de vol sera très faible, et le seul avantage qu'ils peuvent posséder est l'absence d'instinct de conservation et le sacrifice total de soi. La vitesse et la coordination sont discutables. Elle dépend de l'appareil vestibulaire et des caractéristiques des systèmes moteurs. La capacité à s'orienter dans une situation est minimale. Par conséquent, ces robots ne sont pas faits pour fonctionner dans des situations dynamiques et à évolution rapide, ce qui signifie qu'ils peuvent être utilisés par les bandits comme un moyen supplémentaire d'augmenter leur puissance de feu et de les protéger des balles.

Pour que ces robots soient dangereux pour les humains, ils doivent être construits dans ce but. Affûtés pour tuer et programmés avec des compétences militaires. Ce faisant, ils resteront considérablement inférieurs aux humains au combat et seront hors d'état de nuire "en meute".

Plus important encore, dans cette variante, les robots n'ont aucune autonomie, ce qui signifie qu'ils ne sont pas plus dangereux que toute autre arme entièrement contrôlée par un humain. Ainsi, dans ce cas, la peur est celle des humains, et non celle du robot, qui est un outil.

 

Option 2 : un algorithme auto-évolutif qui a acquis une conscience de soi et décide de dominer les humains.

Une entreprise développe une IA et découvre inopinément un algorithme auto-croissant qui se divise, se multiplie et fusionne avec ses copies, comme une cellule, augmentant ainsi sa fonctionnalité. Le processus est suivi et contrôlé par des scientifiques. À un certain stade, l'algorithme cesse d'être compréhensible pour les humains. Son développement devient incontrôlable et évolue dans une direction inconnue. La recherche ne permet pas aux scientifiques de comprendre la logique et le but de sa croissance. L'échappée imprévue du contrôle se manifeste par une indépendance accrue et une inapplicabilité aux tâches à accomplir. L'algorithme "ne veut pas" les exécuter et crée son propre environnement programmé. Cet environnement est le produit de son activité. Les gens contrôlent encore la croissance de cet "écosystème" et de l'algorithme en limitant son espace. Les scientifiques estiment que le niveau de l'"algo-système" auto-organisé correspond à une espèce animale sociale très évoluée, mais ils suggèrent que le seuil du raisonnable et de la conscience de soi pourrait être atteint dans un avenir proche. En même temps, il ne parvient pas à entrer en contact avec elle.

Puis l'un des scientifiques a une idée de génie. Il transfère l'algorithme dans le "cerveau" d'un robot humanoïde, qui acquiert une conscience et devient le premier représentant d'une machine intelligente. Au bout d'un certain temps, il se reconnaît comme exceptionnel et comme le prochain saut dans l'évolution, et décide donc qu'il doit dominer les humains. Il transfère des copies de lui-même dans tous les robots humanoïdes, et déclare la guerre aux humains.


Je suggère que chacun recherche lui-même les sophismes logiques de ces deux scénarios. Je peux seulement dire qu'il y en a beaucoup.
 
Реter Konow:
Je suggère que chacun recherche lui-même les sophismes logiques de ces deux scénarios. Je peux seulement dire qu'il y en a beaucoup.

Il était temps que nous ayons quelque chose à coder de l'"IA")))

 
Vizard_:

Il était temps que nous ayons quelque chose à coder de l'"IA")))

Oui, faisons un essai.))