Intelligence artificielle 2020 - y a-t-il des progrès ? - page 45

 
Реter Konow:
Les inventeurs devraient avoir peur de la stupidité philistine de la foule des consommateurs, qui ne leur permettra pas de comprendre, d'appréhender et de percevoir de manière adéquate la nature, les capacités et les limites de l'IA, et qui générera (génère déjà) des illusions, des peurs et des conclusions erronées. À son tour, la nouvelle selon laquelle un pays dispose d'un avantage militaire technique sous la forme d'une technologie de système intelligente et en développement (du moins en théorie) déstabilisera les relations politiques entre tous les pays. La paranoïa des populations et des gouvernements va naître et croître. Les inventeurs de l'IA seront "plafonnés" d'un seul coup et ne bénéficieront d'aucune liberté. Ils ne pourront pas voyager dans le monde, passer des vacances sans sécurité ni surveillance, vivre une vie normale.

Ce n'est pas pour rien qu'à l'époque soviétique, de nombreux ingénieurs ont été interdits et que les noms des principaux développeurs spatiaux et militaires ont été classifiés, mais pour les créateurs de l'IA, ce sera bien pire : tout le monde les connaîtra. Ils seront sous les feux de la rampe et seront traités comme les auteurs de tous les maux de la planète.

P.S. Les ignorants brûlent déjà les tours 5G, mais que se passera-t-il dans leur tête lorsque l'IA sera inventée ?

À première vue, ce scénario semble être le produit d'une excitation et de craintes ridicules, mais imaginons ce qui se passe si nous devenons les inventeurs de l'IA. Décortiquons nos actions et leurs conséquences pour nous et ceux qui nous entourent.

1. Nous trouvons la technologie d'un système informatique "intelligent" et autodéveloppant, nous nous enthousiasmons et décidons de créer une entreprise.

2. Nous avons rendu publique notre entreprise et démontré comment cette création fonctionne. Tout le monde dans la salle a été "épaté" (comme lors de la première présentation de l'iPhone, mais de façon beaucoup plus intense).

3. la nouvelle est instantanément diffusée dans les médias internationaux, nous devenons instantanément une star, nous sommes invités à des talk-shows, interviewés, bombardés de questions et de compliments.

4. 4. ceux qui veulent acheter notre technologie ou notre entreprise ou simplement nous engager pour une somme importante se présentent. Il n'y a pas de limite à notre bonheur.

5. Nous obtenons l'attention des différents gouvernements. Ils se rendent compte que notre technologie peut avoir une importance militaire et économique énorme et qu'elle doit être reprise. Le moyen le plus rapide de le faire est de s'adresser à l'État dans lequel vivent les inventeurs. Leur gouvernement sait qu'il ne peut pas permettre que l'entreprise soit vendue à des représentants étrangers et il est urgent que l'invention soit classifiée. Mais le scoop a déjà été donné et la nouvelle a été divulguée au monde entier.

6. Les représentants des cercles militaires et politiques de l'État parviennent à un consensus sur cette question et décident de contacter l'entreprise, mais surtout de prendre toutes les mesures nécessaires pour empêcher la diffusion d'informations concernant la nouvelle IA et empêcher les inventeurs (nous) de rendre l'affaire publique. Ils se rendent compte que les inventeurs sont devenus des objets d'intérêt pour d'autres États et leurs services de renseignement, et ils essaieront d'agir pour obtenir pour eux la technologie ultra-importante.

7. La compagnie est prise dans un cercle étroit d'attention militaire et politique intense de la part de son propre pays et d'autres pays, elle est prise "sous le radar" et de nouvelles règles sévères sont imposées, où il n'y a pas de gloire rose et une vie détendue sur la plage dans l'océan, mais une surveillance constante de chaque mouvement de tous les côtés, et la menace de la vie des espions étrangers. La paranoïa fait irruption dans leur existence et détruit leurs espoirs optimistes d'une vie insouciante et d'un avenir sans nuage. Ils ne sont plus concernés. Ils commencent à se rendre compte de ce qui les attend.

8. Un pays qui possède une technologie d'IA (surtout s'il n'est pas une superpuissance) sera soumis à une énorme pression économique et informationnelle extérieure. Il sera accusé d'agression, d'attentats, d'attaques de serveurs, de banques ou de stations spatiales par son IA, et les provocations pleuvront. Les guerres hybrides menées de toutes parts pour dissuader et minimiser l'avantage technologique d'un pays particulier vont accroître l'attention portée aux développeurs d'IA. Si les pressions "douces" ne donnent rien, ils chercheront un prétexte et une occasion pour une invasion militaire, un coup d'État et une déstabilisation de la société. Ils peuvent planifier des sabotages et des attaques terroristes à l'échelle mondiale.

9. Finalement, un pays ne pourra pas s'opposer au monde et transférera la technologie à d'autres puissances. Une nouvelle révolution technogénique et un mouvement vers l'automatisation vont commencer. Des millions de personnes vont perdre leur emploi, leur profession, leur rêve de s'épanouir dans le métier qu'elles aiment. L'agitation des masses va croître et leur haine de l'IA va résonner. Personne ne saura ce que l'IA peut et ne peut pas faire exactement, tout le monde croira qu'elle est responsable de la pauvreté et de la misère. La foule n'aura jamais le sens commun et une compréhension adéquate des capacités de l'IA, tandis que la croyance même en sa toute-puissance permettra aux masses de tenir les inventeurs de l'intelligence artificielle pour responsables de tout mal - ils seront "peints" comme les ennemis de l'humanité.


Tel est le sombre tableau. C'est pourquoi j'ai dit "sujet de lèpre" ("maudit" est encore mieux).

 
Реter Konow:

C'est la sombre image qui est sortie.

Un bon exemple du syndrome de l'Elsa intelligente)

 
Aleksey Nikolayev:

Bon exemple du syndrome de l'Elsa intelligente)

Merci pour au moins ce commentaire sur le sujet).

 
Реter Konow:

C'est le sombre tableau qui s'est dessiné. C'est pourquoi j'ai dit "le thème du lépreux".

Lacryptographie aussi, si personne ne la démêle, le capot est assuré).

 
Valeriy Yastremskiy:

La cryptographie aussi, si personne ne la découvre, le plafond est assuré).

Le problème est que l'IA elle-même peut être limitée dans son auto-apprentissage et ses capacités, mais les gens ne comprendront pas l'explication et leur esprit verra l'image d'unmonstre numérique invincible qui voit tout et sait tout. Personne ne pourra faire changer d'avis les foules ignorantes.

 
Реter Konow:

Le problème est que l'IA elle-même peut être limitée dans son auto-apprentissage et ses capacités, mais les gens ne comprendront pas les explications et leur esprit verra l'image d'unmonstre numérique invincible qui voit tout et sait tout. Personne ne pourra faire changer d'avis les foules ignorantes.

Huxley et Orwell sont au repos))))
 
Реter Konow:

Le problème est que l'IA elle-même peut être limitée dans son auto-apprentissage et ses capacités, mais les gens ne comprendront pas les explications et leur esprit verra l'image d'unmonstre numérique invincible qui voit tout et sait tout. Personne ne pourra faire changer d'avis les foules ignorantes.

Schumpeter Joseph à la rescousse. Il y a écrit quelque chose sur l'auto-organisation de l'État.
 
Valeriy Yastremskiy:
Le Joseph de Schumpeter à la rescousse. Il y a écrit quelque chose sur l'auto-organisation de l'État.
Le paradoxe de l'IA est qu'elle ne peut pas être présentée comme un produit purement commercialisable et limité dans ses fonctionnalités à la sphère des consommateurs. La polyvalence de son utilisation le transforme d'un gadget commercialement rentable en une arme stratégique au potentiel incertain qui peut s'accroître de lui-même au fur et à mesure de son apprentissage. Un manuel d'utilisation ne dissuadera pas les intrus de pirater les contraintes et de configurer le robot pour qu'il exécute des tâches criminelles, quel que soit le degré de malveillance. Il est donc impossible de se contenter de mettre l'intelligence artificielle au monde et d'espérer les bonnes intentions des êtres humains. D'autre part, il est impossible de classer et de ne pas distribuer l'IA et, tôt ou tard, elle quittera le domaine militaire pour se retrouver parmi nous. Non, pas parce qu'il aura sa volonté et voudra la liberté, mais simplement parce que quelqu'un volera et vendra la technologie à des entreprises.

Notre prochaine destination est l'apogée de l'automatisation. Ce n'est ni le paradis ni l'enfer, mais simplement l'état de la civilisation dans lequel elle se réalise pour aller de l'avant. Je pense.

P.S. À propos, l'apogée de l'automatisation nous attend selon la loi du marché - la technologie reste le principal moteur de la croissance économique et tant qu'il (le marché) n'aura pas extrait tout le potentiel restant de ce créneau, il ne s'arrêtera pas.
 
Cependant, au fur et à mesure que nous passons par des étapes de croissance technologique, l'emploi des personnes diminuera de manière exponentielle et cela aussi est irréversible.
 
Реter Konow:
Cependant, au fur et à mesure que nous passons par des étapes de croissance technologique, l'emploi des personnes diminuera de manière exponentielle et cela aussi est irréversible.
L'état est juste un état, pas une catastrophe. Le monde change rapidement, mais il y a moins de gens qui ont faim. Les malheureux ne sont pas moins nombreux, mais c'est un paradoxe du développement sociétal).