AI 2023. Встречайте ChatGPT. - страница 192

 
Andrey Dik #:

Можно конечно читать чьи-то фантазии, что не запрещено и даже полезно для построения новых нейронных связей в мозгу

По-моему как раз наоборот: чем больше это читаешь, тем реще сворачиваются нейронные связи и закрываются на учёт

 
Ivan Butko #:

По-моему как раз наоборот: чем больше это читаешь, тем реще сворачиваются нейронные связи и закрываются на учёт

Так тоже можно сказать, ага.
 

Перечислим ключевые тезисы из начала третьей главы:

(они помогут в понимании логики дальнейшего материала)


  • Неэффективная репродукция ведет к гибели вида.
  • Существующие виды животных отработали биологическую репродукцию в процессе Эволюции за миллионы лет.
  • Самовоспроизведение механизмов никогда и никем не было реализовано.  
  • Механизмы никогда не совершенствовали процесс своего самовоспроизведения.
  • Если первое поколение роботов выйдет дефектным или будет сорвано форсмажорными обстаятельствами, второго поколения роботов может не быть или начнется резкое сокращение их популяции.
  • Без людей у роботов есть только одна попытка запустить процесс эффективной репродукции.
  • Уничтожением человечества ИИ закроет себе дорогу назад, и при провале налаживания эффективной репродукции, будет обречен на тотальное изчезновения своего вида (сценарий в духе НФ).



Сегодня продолжение...
 
В продожении мы построим модель самовоспроизводства механизмов.
 
Кстати, все кто считает что вместо меня пишет LLM, попросите ИИ построить модель самовоспроизводства механизмов, чтобы далее сравнить ее с моей моделью.
 
Варю себе кофе, в предвкушении ☕️ 
 

Симуляция и моделирование, метод Монте-Карло? Не, автор не знает такие вещи.

Растущие с каждым днём вычислительные мощности позволяют уже сейчас моделировать космологические процессы с триллионами физических объектов, а смоделировать человеком оптимальное развитие и решение проблем автономных роботов? - не, никогда такого не было и не будет)))

 

Электромагнитный импульс высокой силы выведет из строя хоть всю технику целый планеты. Лишь живые существа останутся целыми.

Иными словами, понимая всё это, цивилизация роботов никогда не будет полностью независимой от людей. Или же начнёт искать способы органической эволюции.


Это как в противовес (или в догонку) к размышлениям о сложностях репродукции.

 

Вовсе не обязательно, что уничтожение человечества ИИ (если оно вообще произойдёт) будет целенаправленным действием со стороны этого ИИ.

Гораздо более вероятна ситуация, когда это произойдёт вследствие неожиданного и непреднамеренного ухудшения среды обитания человека в процессе выполнениия ИИ целей поставленных ему человеком. Это даже не обязано быть следствием злонамеренности каких-то людей. Всё может произойти в соответствии с Черномырдинским "хотели как лучше, а получилось как всегда". Собственно, почти все постапокалиптические произведения строятся на этом принципе.

То, что кажется разумным поначалу, вполне может оказаться в итоге полным бредом. Например, уничтожение кошек в Средневековье или воробьёв в Китае.

 
Aleksey Nikolayev #:

Вовсе не обязательно, что уничтожение человечества ИИ (если оно вообще произойдёт) будет целенаправленным действием со стороны этого ИИ.

Гораздо более вероятна ситуация, когда это произойдёт вследствие неожиданного и непреднамеренного ухудшения среды обитания человека в процессе выполнениия ИИ целей поставленных ему человеком. Это даже не обязано быть следствием злонамеренности каких-то людей. Всё может произойти в соответствии с Черномырдинским "хотели как лучше, а получилось как всегда". Собственно, почти все постапокалиптические произведения строятся на этом принципе.

То, что кажется разумным поначалу, вполне может оказаться в итоге полным бредом. Например, уничтожение кошек в Средневековье или воробьёв в Китае.

Например, ИИ скажет, что для обнаружения частиц темной материи нужно построить коллайдер длиной с экватор и сталкивать в нем представителей "Homo Promptus" до тех пор, пока из них не вылетит нужный промпт, удовлетворяющий решению состава этих самых частиц. В итоге промптусы закончатся, а задача так и не будет решена :)

Причина обращения: