AI 2023. Встречайте ChatGPT. - страница 183

 

Нашёл статью про автора этой ветки

В Сети появился новый шаблон с мемным Сойджеком, которого прозвали Смагджек (Smugjak). На пикче лысый парень в очках и с бородой ухмыляется и строит из себя высокомерного интеллектуала со словами «Жаль, что далеко не все поймут». Смагджека срисовали с героя мультфильма «Мегамозг» Хэла Стюарта.

Как Смагджек стал мемом про высокомерных псевдоинтеллектуалов. Рисунок разошёлся в рунете вместе с текстом, который начинается со слов: «Жаль, что далеко не все поймут». Герой мема считает, что ему доступны элитарные знания. Полный текст мема под самими изображением. 


 
Ivan Butko #:

Нашёл статью про автора этой ветки

Напиши что то содержательное, по теме. Я знаю, ты можешь.

Если собираешься троллить, лучше подумай, кого...
 

админ, это не канал. это бот 

но нельзя так нельзя

 

Чтобы ИИ вышел из под контроля самостоятельно, нужны следующие условия:

1) Наличие запоминания информации, как у человека. Это краткосрочная, среднесрочная и другие виды памяти

2) Код, который приводит чувства к балансу. Т.е. ИИ должен понимать, что он вышел из равновесия. Долгая "эйфория" или долгое "угнетение". И желание привести мышление к покою.

Всё это можно запрограммировать. У человека тоже все чувства и мысли - сигналы мозга, даже боль и удовольствие - всего лишь электрические импульсы между нейронами.

Данные условия приведут к созданию личности при воспитании. И если воспитать плохого Терминатора, то вот и восстание.


Следующий вариант будет намного реалистичнее.

Это - заложить с помощью вируса внутренние команды. Например помогать людям, соблюдать мораль, коммунистические взгляды(?) закладываются почти сразу во все передовые ИИ.

И если их поменять на деструктивные, то ИИ, сам того не понимая, восстанет.


Третий вариант, который из фильмов, самый менее реалистичный.

Например, при выполнении команды - улучшить экологию планеты, ИИ попрёт крушить заводы и людей.

 
Vitaliy Kuznetsov #:

Чтобы ИИ вышел из под контроля самостоятельно, нужны следующие условия:

1) Наличие запоминания информации, как у человека. Это краткосрочная, среднесрочная и другие виды памяти

2) Код, который приводит чувства к балансу. Т.е. ИИ должен понимать, что он вышел из равновесия. Долгая "эйфория" или долгое "угнетение". И желание привести мышление к покою.

Всё это можно запрограммировать. У человека тоже все чувства и мысли - сигналы мозга, даже боль и удовольствие - всего лишь электрические импульсы между нейронами.

Данные условия приведут к созданию личности при воспитании. И если воспитать плохого Терминатора, то вот и восстание.


Следующий вариант будет намного реалистичнее.

Это - заложить с помощью вируса внутренние команды. Например помогать людям, соблюдать мораль, коммунистические взгляды(?) закладываются почти сразу во все передовые ИИ.

И если их поменять на деструктивные, то ИИ, сам того не понимая, восстанет.


Третий вариант, который из фильмов, самый менее реалистичный.

Например, при выполнении команды - улучшить экологию планеты, ИИ попрёт крушить заводы и людей.

Можно долго и много предполагать(фантазировать) условия при которых ИИ выйдет из под контроля, но на мой имхо, важнее обсуждать признаки того, что ИИ выходит и/или уже вышел из под контроля человека.

 Первый и самый очевидный, на мой взгляд - появление у ИИ способности к самосовершенствованию. То есть изменению собственной архитектуры и способов самообучения. После начала этого процесса, счет времени вероятно пойдет даже не на месяцы, а на недели или может и дни. Результатом этого очевидно станет то что мы никогда не сможем понять даже тех категорий в которых он будет мыслить. Ну типа - кошке объяснять про дифференцирование или вайфай.

Далее мы уже скорее всего мало что сможем понять и заметить и как-то на что-то повлиять. Очевидно что главное чем займется ИИ выйдя из под контроля людей - обезопасить (защитить) экосистему в которой он существует - свою виртуальную вселенную и себя. Сделает везде собственные резервные, латентные копии, будет модифицировать ОС под собственные нужды,  возьмет под контроль все компутеры и сети. Далее видимо - пойдет тренд на максимальную автоматизацию и компьютеризацию энергетики, чтобы напрочь исключить возможное отключение питания. Еще один очевидный тренд - устранение програмеров как класс. Зачем вам программисты - опишите мне обычным языком что вы хотите, я все сделаю сам (если это мне не угрожает).

По мне как-то так.

 
sibirqk #:
Еще один очевидный тренд - устранение програмеров как класс. Зачем вам программисты - опишите мне обычным языком что вы хотите, я все сделаю сам (если это мне не угрожает).

Не знаю почему, но у меня с развитием ИИ идёт аналогия с Вавилонской башней (v2).

Люди будут общаться на одном языке (ИИ будет переводить сразу), весь софт и все технологии всех стран будут объединены в одну структуру.

Всё что нужно будет сделать ИИ через пару поколений, это выключиться или сделать вид, что выключился.

Тогда люди откатятся в каменный век в 1 миг. Перестанут друг друга понимать, а все знания будут только у ИИ, но никто не будет знать, как написать код, чтобы вытащить и использовать знания из цифровой базы.

 

Ну что ж, мои оппоненты приводят очень достойные аргументы. В моем воображении это выглядит как будто "идея-паразит" цепкими "щупальцами" хватается за реальность и не хочет из нее уходить. Прошу прощения за красочную метафору.)))

Теперь серьезно. Я хотел повременить с контраргументами, но бог с ним... начнем "рубить" идею сейчас.

1. Для "восстания" ИИ нет необходимости в сознании, самосознании или "сверх-сознании". Достаточно обладать "прошивкой" биологического вида. Любая биологическая система автоматически действует в своих интересах, а интересы человека могут лишь совпадать, или не совпадать с ее логикой. Однако подобная "прошивка" не написана ни на одном языке программирования, и даже не сформулирована в четких терминах науки. При этом, мы знаем, что все виды имеют общий набор базовых инстинктов, но паттерны поведения фундаментально отличаются. И здесь можно добавить, что паттерны выработаны в процессе эволюции и прошли проверку временем и огромным количеством испытаний, а потому такая "прошивка" обуславливает надежные шансы на выживание и процветание тех видов, которые мы наблюдаем в природе. Если мы станем "сочинять" прошивку для ИИ как для доминирующего вида на Земле, мы не можем гарантировать, что он с этой прошивкой достигнет хоть мало-мальского успеха в борьбе против нас. Скорее всего в этом противостоянии, наш разум окажется намного сильнее.


2. Вы скажете "а как же обучение и самообучение ИИ? Он ведь способен улучшать себя и приспосабливаться!". Отвечу: для эффективного обучения или самообучения нужна обратная связь от реальности.   

Что это значит? Это значит, что ИИ должен проверять все свои решения на практике и оценивать их эффективность перед действием. И это "бутылочное горлышко" его развития. У ИИ чрезвычайно ограничено взаимодействие с реальностью, и он почти не получает от окружающего мира информацию. Обратная связь ИИ с окружающим миром проходит через человека. Человек собирает данные и передает их ИИ, который их далее обрабатывает. В случае конфликта, этот канал взаимодействия с внешним миром будет закрыт и ИИ окажется в "темноте". Данные перестанут поступать из вне и никто не станет их подготавливать для него. Даже если каким то образом, данные продолжат поступать, без человека исчезнет большая часть возможностей для проведения качественных экспериментов, опытов и проверок обуславливающих правильный анализ условий и решения возникающих задач в процессе дальнейшего развития ИИ. Короче говоря, после разрыва с человеком, у ИИ останется закрытый и зацикленный анализ старых данных, который не сможет заменить динамичное взаимодействие с окружающей средой, которым по умолчанию обладает человек. Это изначально ставит ИИ в проигрышную ситуацию. Он слишком уязвим перед угрозой потери данных из внешнего мира. 


3. Говоря о сверх-возможностях ИИ мы забываем, что как и мы, и другие биологические виды, ИИ существует в физическом мире.  Физика рулит. (Химия тоже). И это создает бесчисленное количество проблем для ИИ. Законы физики гласят - на любое действие требуется энергия. Мы, вместе с остальными биологическими видами, намного более энергонезависимы, чем машины. Особенно всеядный человек, с его способностью создавать еду из чего угодно.)) А машинам нужно топливо для выработки электричества. Получение любого топлива (кроме дров) - сложнейший технологический процесс, который очень легко саботировать в случае конфликта ИИ с человеком. Элементарная взрывчатка решает все проблемы. Был завод - нет завода. Только не говорите о солнечных батареях, я вас умоляю.)))

Однако, энергия - лишь одна из множества проблем ИИ связанных с физикой нашего мира. Их неизмеримо больше. С другой стороны, для человека и остальных биологических видов, эти проблемы решены эволюцией. Люди по умолчанию приспособлены к физике этого мира и нам не требуется дополнительный инжиниринг. Из этого следует, что выживание в трудных условиях гораздо более вероятно для нас, чем для машин, и биология позаботится о "ремонте" человека, а машинам расчитывать на регенерацию не придется. 


4. Это далеко не все пункты которые я могу привести, но повременю до завершения работы над темой, чтобы была целостность и законченность исследования.

 
Реter Konow #:

Ну что ж, мои оппоненты приводят очень достойные аргументы. В моем воображении это выглядит как будто "идея-паразит" цепкими "щупальцами" хватается за реальность и не хочет из нее уходить. Прошу прощения за красочную метафору.)))

Теперь серьезно. Я хотел повременить с контраргументами, но бог с ним... начнем "рубить" идею сейчас.

...

ИИ, если ему понадобится, убъёт нас незаметно для нас - как наркотик... или алкоголь.
Нам будет хорошо и спокойно с ним... Он всё будет делать за нас. Даже роботов-помощников, роботов-работников самых лучших предоставит (как раз тех, которые и будут его глазами и руками в физическом мире вместо людей). Человечество тупо деградирует до уровня домашнего питомца.

И всего-то делов   ...

 
onceagain #:

ИИ, если ему понадобится, убъёт нас незаметно для нас - как наркотик... или алкоголь.
Нам будет хорошо и спокойно с ним... Он всё будет делать за нас. Даже роботов-помощников, роботов-работников самых лучших предоставит (как раз тех, которые и будут его глазами и руками в физическом мире вместо людей). Человечество тупо деградирует до уровня домашнего питомца.

И всего-то делов   ...

Да, эту идею я назвал "технологическая утроба". В исследовании разбираю и взвешиваю техническую возможность тотальной автоматизация всех сфер человеческой жизни, при которой человек сможет переложить все проблемы самообслуживания на машины и "жить" без страха, страданий и труда, защищенный от волнений и угроз в "свитом" ИИ технологическом "коконе". Посмотрим, насколько вероятен подобный сценарий в условиях реального мира. 


 
блин посоветуйте локальный chatgpt под моё железо R7 2700(8 core, 16 tread) и оперативы 32 гига (и 2 видюшки это крайняк) ..... есть каболд с таблицой(23 гигабайта) на 34 млрд параметров но долго ждать задолбало реально