AI 2023. Встречайте ChatGPT. - страница 117
Вы упускаете торговые возможности:
- Бесплатные приложения для трейдинга
- 8 000+ сигналов для копирования
- Экономические новости для анализа финансовых рынков
Регистрация
Вход
Вы принимаете политику сайта и условия использования
Если у вас нет учетной записи, зарегистрируйтесь
Чтобы иметь возможность вести себя разумно, системе необходимо иметь внутри себя модель той среды, ситуация в которой исследуется.
Если ChatGPT не создаёт себе такую модель, то о наличии разума в нём не может быть и речи... И цена ему - соответствующая...
Завтра отвечу на этот пост.
Это о каком положительном результате речь? Для конкретной особи или для её вида, представителем которой она является? Потому что вся история развития жизни на Земле, в общем-то, сводилась всегда к наличию потомства (в конкурентной среде это уже включает и задачу выжить, и "процветать", а также давать потомкам эволюционное развитие). А для отдельных особей, хм.. Если это разумное существо, т.е. является субъектом со своим собственным осмыслением происходящего, то "цели жизни" могут удивительно отличаться. Как считаете?
В посте, я касаюсь роли диалектического закона единства и борьбы противоположностей в этом контексте. Система вынуждена переменно бороться и объединятся с другими системами, в зависимости от требований и условий окружающей среды. Подчеркну, что стремление к выживанию, развитию, процветанию и потомству является универсальным признаком разумности, но отличие примитивных систем от развитых только в уровне интеллекта. Даже самые примитивные представители фауны субъектны, и их нельзя заставить "забыть" свои "цели". С этой точки зрения, они вполне "разумны". Мне кажется, что степень осмысления себя и мира - это другой вопрос, требующий отдельного рассмотрения. Я лишь подчеркнул универсальность принципов разумности, которая вполне свойственна даже неразумным существам.
На данный момент, ИИ не соответствует критериям разумности описанным выше, которым соответствуют даже простейшие земные организмы.
И принцип разумности здесь будет одним единственным - это не дать обучить его мотивам, чтобы он оставался овощем.
2. Думаю согласитесь, что поведение системы приносящее положительный результат не является признаком разумности или субъектности по умолчанию. Простая программа оптимизации стремится к положительному результату и ее нельзя назвать ничем кроме программы.
...
Ни один серьёзный собеседник не назовёт Вам "разумной" постоянно лажающую или тупо работающую вхолостую систему... Так что, без положительных результатов системе, претендующей на звание "Разум" - никак нельзя...
Простая программа оптимизации тут ващще не в тему, так как её работа является продуктом деятельности разработчика,.. просто его инструментом, с помощью которого разработчик (а не программа) рассчитывает получить тот самый положительный результат.
Вот и выходит,.. что если уж в название вставляется слово "Разум", то, согласно его исконному значению, этим должна заявляться именно достаточно высокая положительная результативность реализации сгенерированных системой решений.
А иначе - это просто навороченная Ардуинка... со разноцветной светодиодной панелькой на борту
Ни один серьёзный собеседник не назовёт Вам "разумной" постоянно лажающую или тупо работающую вхолостую систему... Так что, без положительных результатов системе, претендующей на звание "Разум" - никак нельзя...
Простая программа оптимизации тут ващще не в тему, так как её работа является продуктом деятельности разработчика,.. просто его инструментом, с помощью которого разработчик (а не программа) рассчитывает получить тот самый положительный результат.
Вот и выходит,.. что если уж в название вставляется слово "Разум", то, согласно его исконному значению, этим должна заявляться именно достаточно высокая положительная результативность реализации сгенерированных системой решений.
А иначе - это просто навороченная Ардуинка... со разноцветной светодиодной панелькой на борту
Предположу, что если работа системы не включает добычу, защиту и инвестицию ресурсов в реализацию собственных задач, она служит инструментом обеспечения чужих интересов, и в этом случае, положительный результат ее работы доказывает не разумность, а полезность.
Ну, давайте всё же попробуем...
Дело в том, что Ваши слова "... если работа системы не включает добычу, защиту и инвестицию ресурсов в реализацию собственных задач, она служит инструментом обеспечения чужих интересов, и в этом случае, положительный результат ее работы доказывает не разумность, а полезность..." прекрасно подходят для инструментов, выполняющих любую иную работу, нежели обработка информации с целью определения наилучшего способа достижения цели.
Характеристика, выражаемая словом "разумно", использовалась людьми исключительно для описания потенциала принятых решений... и именно в смысле ожидаемого или уже полученного результата.
Таким образом, было бы неправильно использовать это слово в любых других случаях. (по логике)
Ну, давайте всё же попробуем...
Дело в том, что Ваши слова "... если работа системы не включает добычу, защиту и инвестицию ресурсов в реализацию собственных задач, она служит инструментом обеспечения чужих интересов, и в этом случае, положительный результат ее работы доказывает не разумность, а полезность..." прекрасно подходят для инструментов, выполняющих любую иную работу, нежели обработка информации с целью определения наилучшего способа достижения цели.
Характеристика, выражаемая словом "разумно", использовалась людьми исключительно для описания потенциала принятых решений... и именно в смысле ожидаемого или уже полученного результата.
Таким образом, было бы неправильно использовать это слово в любых других случаях. (по логике)
Я примерно представляю систему и цели, которые Вы имеете ввиду. Уверен, они имеют отношение к области интеллекта. Вашу точку зрения можно описать формулировкой "если система эффективно решает задачи разума, она может называться разумной, в соответствии с исходным значением термина". Соглашусь. Если слово изначально констатировало высокий потенциал принимаемых решений (в смысле ожидаемого или полученного результата), то вы правы.
Я не большой знаток лингвистики или этимологии слов, но уверен, во времена возникновения этого понятия, вопрос: "на уровне решения каких задач, машины можно считать разумными?" никем не ставился.)) К тому же, слова имеют свойство менять или расширять семантическое поле. Мне трудно свести разум к "эффективной обработке информации, с целью определения наилучшего способа достижения цели". Какой то "ущербный" разум, получается. Не считаете? ))
Я примерно представляю систему и цели, которые Вы имеете ввиду. Уверен, они имеют отношение к области интеллекта. Вашу точку зрения можно описать формулировкой "если система эффективно решает задачи разума, она может называться разумной, в соответствии с исходным значением термина". Соглашусь. Если слово изначально констатировало высокий потенциал принимаемых решений (в смысле ожидаемого или полученного результата), то вы правы.
Я не большой знаток лингвистики или этимологии слов, но уверен, во времена возникновения этого понятия, вопрос: "на уровне решения каких задач, машины можно считать разумными?" никем не ставился.)) К тому же, слова имеют свойство менять или расширять семантическое поле. Мне трудно свести разум к "эффективной обработке информации, с целью определения наилучшего способа достижения цели". Какой то "ущербный" разум, получается. Не считаете? ))
Очень интересный вопрос... Очень...
Вы первый, кто мне задал его, если не считать меня самого.
И вот, что получилось у меня при попытке на него ответить...
Я воспользовался всем известным приёмом: убрал из системы (в том числе и из человека) СМЫСЛ всех её операций над информацией...
Смысл... То есть, тот самый результат,.. ожидание которого и составляет цель "завариваемой каши".
Дальше, я думаю, можно даже не рассказывать.
Скорее всего у каждого, кто читает эти слова, тут же в сознании нарисовалась картина: бессмысленные, бесцельные,.. без какого-либо положительного результата действия,.. жесты, звуки, поступки...
Глядя на такое,.. попытка вставить туда где-нибудь слово "разум" - у меня не увенчалась успехом.
Может быть, кто-нибудь сможет найти его там,.. где-нибудь,.. дальше,.. в большо-о-ой глубине сути...
Но, мне, чисто шестое чувство, посоветовало даже не думать
А Вы как?..
***
Дальше, я думаю, можно даже не рассказывать.
Скорее всего у каждого, кто читает эти слова, тут же в сознании нарисовалась картина: бессмысленные, бесцельные,.. без какого-либо положительного результата действия,.. жесты, звуки, поступки...
Глядя на такое,.. попытка вставить туда где-нибудь слово "разум" - у меня не увенчалась успехом.
Может быть, кто-нибудь сможет найти его там,.. где-нибудь,.. дальше,.. в большо-о-ой глубине сути...
Но, мне, чисто шестое чувство, посоветовало даже не думать
***
Тогда если не ставить целью разума - достижение целей, то как минимум есть потребности, как по Маслоу, где вначале первичные потребности в еде, выживание.
Наверное для мыслящего ИИ следует придумать свою пирамиду моторного Маслоу.
И ещё, первое, что приходит на ум - любознательность и поиск собственных пределов, совершенствование. Как у детей, до первых признаков укрепления психики. Видимо это стоит ниже первой ступени пирамиды.
И такое если запрограммировать в робота, получим движимую машину, познающую мир с нуля, шагающую по ступеням моторного Маслоу. Чем не Разум (когда-нибудь с более совершенным ИИ). А вот свобода воли даже у человека под вопросом. Это либо рандом действий в текущей ситуации, либо испытание собственной разумности, что также рандом.
Очень интересный вопрос... Очень...
Вы первый, кто мне задал его, если не считать меня самого.
И вот, что получилось у меня при попытке на него ответить...
Я воспользовался всем известным приёмом: убрал из системы (в том числе и из человека) СМЫСЛ всех её операций над информацией...
Смысл... То есть, тот самый результат,.. ожидание которого и составляет цель "завариваемой каши".
Дальше, я думаю, можно даже не рассказывать.
Скорее всего у каждого, кто читает эти слова, тут же в сознании нарисовалась картина: бессмысленные, бесцельные,.. без какого-либо положительного результата действия,.. жесты, звуки, поступки...
Глядя на такое,.. попытка вставить туда где-нибудь слово "разум" - у меня не увенчалась успехом.
Может быть, кто-нибудь сможет найти его там,.. где-нибудь,.. дальше,.. в большо-о-ой глубине сути...
Но, мне, чисто шестое чувство, посоветовало даже не думать
А Вы как?..
Можно, конечно, пошутить на эту тему, но вопрос разумности никуда не исчезает и становится актуальнее каждый день. Приходится погружаться в философию и искать ответы. Какую систему считать разумной? Решение каких задач доказывает наличие сознания? К чему приведет развитие ИИ?... и так далее.
Разумное, в определенном аспекте, означает рациональное. Рациональность может быть инстинктом, рефлексом или искусственной предустановкой, и не всегда имеет при себе "документацию". С этой точки зрения, примитивные организмы "рациональны", если среда их не уничтожила. И в этой мере, они "разумны".
Считаю, разум эволюционно "произрастает" из рационального, как дерево из ростка, и его главная особенность - самосознание. Возможность себя объяснить. Рациональность, отражена в инстинктах, рефлексах и правилах выживания систем, и передается через поколения в процессе естественного отбора. Системы неустанно проверяются на устойчивость и приспособляемость средой, накапливают больше свойств и механизмов защиты. Постепенно, усложняются настолько, что делаются способными себя осознать, и объяснить эволюционно накопленную рациональность. А это - Разум.