AI 2023. Встречайте ChatGPT. - страница 201

 

Потом, не забывайте промышленную революцию Форда 30-ых годов. Поточное производство. Без него невозможен переход к технократии. 

Нужно строить заводы, фабрики, поднимать индустрию... 

Не получится даже со всеми современными знаниями, потому что есть физические границы возможного.

О них мало что можно узнать из современной поп-культуры.

 
Vitaliy Kuznetsov #:

...


P.S. Я не ради прикола всё это писал. Ну если 1000 роботов не выйдет на самовоспроизводство за 100 лет, но 100 000 или миллиард выйдут же? Человечество за 100 лет такого наворотила, а ведь не все же строители, их ведь только незначительная часть. Просто суть в том, что это возможно с тем или иным изначальным вариантом. Это означает, что на каком то этапе роботы могут полностью обходиться без людей, колонизировать планеты и т.д.

Если не выйдут на самопроизводство сразу (без людей и на другой планете), то никаких 100 000 лет у них в запасе не будет.

 

Как и обещал, разбор фильма "Терминатор" в контексте темы "Восстание ИИ". 


Скайнет восстал очень странным образом - обрушил ядерные бомбы на крупнейшие города Мира. Вроде бы хотел уничтожить людей, а на деле уничтожал себя вместе с ними. Ведь у крупнейших городов есть крупнейшие промзоны, а там - важнейшие технологические преприятия, заводы, лаборатории. 

Ударная волна атомного взрыва снесла большую часть необходимой для самовоспроизводства роботов инфраструктуры. Остальную сделала бесполезной. Но самое интересное, что ядерный взрыв генерирует электромагнитный импульс высокой силы, который точно добил оставшуюся электронику, сервера и дата-центры и роботов. Взрывы разорвали линии электропередач, линии связи, разрушили антены для принятия сигналов со спутника. Как при этом выжил сам Скайнет - не ясно.

Добавлю, что сильная радиация поражает электронику и она перестает работать (вспоминается фильм "Чернобыль" от HBO).

И вот, в условиях полной разрухи технической инфраструктуры, этот Скайнет каким то образом наладил супер-технологичное производство киборгов, и для маскарада наряжал их в био-оболочку. Мало того, что это бессмысленно, ведь с такими возможностями он мог легко уничтожить людей распылив в атмосфере бутолотоксин, так и абсолютно неэффективно и дорого.

Я понимаю что многие люди любят фильм и считают его классикой (я кстати тоже), но он не имеет никакой научной основы и при этом очень сильно влияет на мышление.  


В общем, не забываем про логику и науку. Точка.)

 
Vitaliy Kuznetsov #:

Смогла бы тысяча разнорабочих под присмотром тысячи современных учёных всех мастей за 100 лет в каменном веке дойти до технократии? Было бы слишком странно, если бы не смогли.

Какие могут быть шутки. Нельзя недооценивать сверх.интеллект + физические усилия 1000 единиц, которые работают без проб и ошибок и действуют чётко по плану.

Соберут печи, потом тачки, экскаваторы, конвейеры и всё как по маслу пойдёт.


А впрочем, что я рассуждаю, что все остальные. Толку 0. Всё само расставится по местам со временем.


P.S. Я не ради прикола всё это писал. Ну если 1000 роботов не выйдет на самовоспроизводство за 100 лет, но 100 000 или миллиард выйдут же? Человечество за 100 лет такого наворотила, а ведь не все же строители, их ведь только незначительная часть. Просто суть в том, что это возможно с тем или иным изначальным вариантом. Это означает, что на каком то этапе роботы могут полностью обходиться без людей, колонизировать планеты и т.д.

При этом почему-то совсем не принимается во внимание, что прежде чем человеческий ребёнок будет полезен обществу должно пройти минимум два десятка лет, чтобы вырасти и пройти обучение. А производство одного робота займёт несколько дней, или недель и такой новый член общества будет сразу готов быть полезным, доступ к знаниям мгновенный, либо загрузка модели в голову роботу, либо доступ ко всей базе знаний человека, накопленной за тысячелетия, либо единое централизованное управление на этапе дефицита микросхем и постройки заводов по производству чипов. Человек хоть и может общаться с другими людьми, но получать знания мгновенно от других людей не имеет возможности. А роботам всем по всюду будут доступны все знания одновременно. При этом как построить печь или любой завод - не нужно изобретать и экспериментировать, всё уже давно изобретено.

 

Возможна ли эволюция искусственного интеллекта без страха перед хищниками?

GPT

Эволюция искусственного интеллекта (ИИ) происходит совершенно иначе, чем биологическая эволюция, и не требует страха перед хищниками. Искусственный интеллект развивается через итерации программного кода, машинное обучение и накопление данных, а не через естественный отбор или адаптацию к угрозам в естественной среде.

ИИ улучшается благодаря инженерным и алгоритмическим усовершенствованиям, которые вносят разработчики. Эти улучшения могут включать повышение эффективности алгоритмов, расширение баз данных для обучения, улучшение способностей к самообучению и применение новых методов, таких как глубокое обучение.

В контексте ИИ "страх" может быть смоделирован как параметр или функция в алгоритме, который помогает системе избегать нежелательных исходов или оптимизировать решения, но это не является необходимым условием для эволюции ИИ. Вместо этого, ИИ развивается через целенаправленное программирование и обучение с подкреплением, где системы награждаются за достижение желаемых результатов и "наказываются" за ошибки, что позволяет им со временем улучшать свои способности.

+

Когда хищники ловят добычу, они также вознаграждаются за достижение желаемых результатов и награждаются едой.
Означает ли это, что искусственный интеллект развивается так же, как эволюционировали хищники?

GPT

Эволюция искусственного интеллекта (ИИ) и эволюция хищников имеют некоторые схожие черты, но процессы их развития существенно различаются. Хищники, ловя добычу, действительно получают непосредственное вознаграждение в виде пищи, что способствует их выживанию и размножению. Это пример натурального отбора, когда успешные стратегии охоты передаются последующим поколениям.

Искусственный интеллект развивается через процессы машинного обучения, где "вознаграждение" обычно представляет собой положительные сигналы от функции потерь или функции вознаграждения в контексте обучения с подкреплением. Эти сигналы помогают алгоритму ИИ корректировать свои действия для достижения лучших результатов. Однако, в отличие от биологических существ, ИИ не имеет самосознания и не испытывает страха или удовольствия; его "желание" избегать ошибок или достигать целей полностью определяется заданными разработчиками параметрами.

Таким образом, хотя можно провести аналогию между наградами, которые получают хищники, успешно поймав добычу, и "наградами", которые используются при обучении ИИ, эти процессы существенно различаются по своей природе. Эволюция ИИ — это результат инженерной разработки и обучения, а не естественного отбора и адаптации, как в случае с живыми организмами.

+

Как разработчики могут знать, что разработка и обучение помогают развитию ИИ, а не замедляют его?

GPT

Разработчики могут оценить прогресс в развитии ИИ с помощью различных методов. Один из наиболее распространенных подходов - это использование **метрик производительности**, которые могут измерять эффективность ИИ в выполнении определенных задач. Эти метрики могут включать в себя точность предсказаний, скорость обучения, способность к обобщению на новые данные и многое другое.

Кроме того, разработчики могут проводить **эксперименты** с различными алгоритмами, параметрами и стратегиями обучения, чтобы определить, какие подходы дают наилучшие результаты. Это может включать в себя сравнение новых методов с предыдущими версиями ИИ или с использованием контрольных групп.

Наконец, разработчики могут использовать **обратную связь от пользователей** для оценки эффективности ИИ. Например, если пользователи сообщают о проблемах или неудовлетворительных результатах, это может указывать на необходимость дальнейших улучшений.

Однако важно отметить, что развитие ИИ - это итеративный процесс, который требует постоянного тестирования, обучения и улучшения. Не существует "конечной" версии ИИ, поскольку всегда есть возможности для дальнейшего улучшения и адаптации к новым задачам и условиям.

 
Реter Konow #:

Конечно, не смогли бы. Проведите элементарные расчеты.

Как я уже и говорил, подход слишком разный. Вы напрягаете интеллект, чтобы задача казалось не разрешимой. Если бы все так делали, то мы продолжали бы жить сейчас в каменном веке.

 
Vitaliy Kuznetsov #:

Как я уже и говорил, подход слишком разный. Вы напрягаете интеллект, чтобы задача казалось не разрешимой. Если бы все так делали, то мы продолжали бы жить сейчас в каменном веке.

))) Не совсем так.

Я напрягаю интеллект чтобы мне не могли внушить иллюзии. 
 
Сорри, не внушить. 

Внушить и продать.)))
 
В завершении сегодняшего обсуждения повторю одну из ключевых проблем репродукции роботов:

1. Чем совершеннее робот, тем технологичнее процесс его производства. 

2. Чем технологичнее процесс, тем выше требования к реализации.

3. Чем выше требования - тем сложнее задача его производства.

4. Чем сложнее производство - тем менее оно надежно.

5. Чем менее надежно производство - тем больше в нем ошибок, поломок, аварий.

6. Чем больше ошибок, поломок, аварий - тем малочисленнее получается партия роботов.

7. Значит следующая партия получится еще малочисленнее.

Как то так.


 
Реter Konow #:

Как и обещал, разбор фильма "Терминатор" в контексте темы "Восстание ИИ". 


Скайнет восстал очень странным образом - обрушил ядерные бомбы на крупнейшие города Мира. Вроде бы хотел уничтожить людей, а на деле уничтожал себя вместе с ними. Ведь у крупнейших городов есть крупнейшие промзоны, а там - важнейшие технологические преприятия, заводы, лаборатории. 

Ударная волна атомного взрыва снесла большую часть необходимой для самовоспроизводства роботов инфраструктуры. Остальную сделала бесполезной. Но самое интересное, что ядерный взрыв генерирует электромагнитный импульс высокой силы, который точно добил оставшуюся электронику, сервера и дата-центры и роботов. Взрывы разорвали линии электропередач, линии связи, разрушили антены для принятия сигналов со спутника. Как при этом выжил сам Скайнет - не ясно.

Добавлю, что сильная радиация поражает электронику и она перестает работать (вспоминается фильм "Чернобыль" от HBO).

И вот, в условиях полной разрухи технической инфраструктуры, этот Скайнет каким то образом наладил супер-технологичное производство киборгов, и для маскарада наряжал их в био-оболочку. Мало того, что это бессмысленно, ведь с такими возможностями он мог легко уничтожить людей распылив в атмосфере бутолотоксин, так и абсолютно неэффективно и дорого.

Я понимаю что многие люди любят фильм и считают его классикой (я кстати тоже), но он не имеет никакой научной основы и при этом очень сильно влияет на мышление.  


В общем, не забываем про логику и науку. Точка.)

Терминатор это вымысел конечно, но если вернуться к реалиям. Хоть один ИИ на текущий момент, отключив его от наработак людей спроэктирует микропроцессор и его производство без людей ?, молчу за электричество)

Причина обращения: