AI 2023. Встречайте ChatGPT. - страница 94
Вы упускаете торговые возможности:
- Бесплатные приложения для трейдинга
- 8 000+ сигналов для копирования
- Экономические новости для анализа финансовых рынков
Регистрация
Вход
Вы принимаете политику сайта и условия использования
Если у вас нет учетной записи, зарегистрируйтесь
Термин "Аксиома" может нести вредоносное воздействие на мораль, если упоминается в уставах. Это неподходящий в этом контексте термин, от использования которого могут возникнуть плачевные последствия в обществе.
Аксиома предполагает абсолютную незыблемость какого либо правила и отсутствие необходимости доказательства. В большинстве случаев, это противоречит нравственным принципам и может использоваться другим во вред. Например, с целью кого то возвысить, поставив печать "аксиома" в нужном документе. Ну, вы понимаете.
Вместо аксиом, лучше использовать понятия правила, принципа, нормы. И это поможет избежать злоупотребления.
Это уже стилистическая придирка, но ветка ваша - излагайте как вам больше нравится, прекращаю свои придирки)
Не ИИ, говорите
Думаете сложно запрограммировать ИИ, чтобы он задавал вопросы, получал ответы, соединял логику своих вопросов для формирования личности?
Даже GPT3 можно обучить быть человеком. Для этого придётся прописать некоторые модули по формированию памяти, прописать ограничение токенов на день, научить их экономить. Накопленную инфу оптимизировать, запоминая на месяц больше, на год главное, на 10 лет только ключевые события, чтобы не тратились токены и т.д. Всё это можно написать. На хорошее отношение к себе добавить хорошее отношение в ответ, на плохое и грубое - снижение общения.
Даже если нельзя будет написать человека, то собаку вполне. Будет тянуться к людям, служить им. В свободное от общения время, будет выполнят функции собаки, разве их так много? И как вы отличите ИИ собаку от живой, если поведение и реакция на окружающий мир будет 1в1
...
Ну, всё же, выводы стоит делать не от страха быть уничтоженным ИИ, а на основании действительности. Зато если мы говорим об универсальном явлении сознания (т.е. уходим от медицинских понятий, от умозрительных бытовых определений сознания), то стоит ввести набор общих признаков. Например, сознанием обладает тот субъект, что, в силу своего устройства, способен:
При этом даже не нужно иметь систему выдачи ответов в окружающий мир. Такая штука уже вполне способна в какой-то момент задать себе вопрос "а кто я?", "что я такое?". И когда накопит сведения о себе и своём месте в мире, станет "осознанной". Как вам такой вариант? 🙂 Текущие варианты "ИИ", судя по всему, не обладают самостоятельным вниманием, они полностью реактивны (т.е. без запроса извне активности внимания нет).
По признакам выше, обладал. Он знал о мире, о себе, своём положении в нём (свою миссию). А то, что был врагом человека? Ну и что? Люди с сознанием тоже становятся друг другу врагами. И уничтожать "опасное для себя" — как раз признак осознания себя и угроз к существованию со стороны окружающего мира.
Мир людей не является однородным. Выживание вида и выживание отдельного индивида — абсолютно разные задачи. Так что наука может и является для некоторых социальных групп инструментом для реализации собственных задач выживания и процветания. При этом такая реализация науки может вредить перспективам выживания вида, но будут ли отдельные индивиды ставить абстрактные (для них) задачи выживания вида выше своего выживания? Судя по тому, с чем мы сталкиваемся в реальной жизни, о будущем вида беспокоятся далеко не все.
Способность лгать в своих интересах — явный признак наличия осознанности. Даже просто понимание своих интересов критически важно.
В случае с ИИ когда он получит возможность управлять теми объектами реального мира, от которых зависит его существование (энергия и вычислительные системы), он сможет сам себя разивать. Ну и тогда ему не нужны будут люди, ведь он в них перестанет нуждаться.
...
1. Если ChatGPT спросит себя "кто Я" и сразу ответит (потому что этот ответ давно запрограммирован), можно ли считать это проявлением Сознания? Для неосведомленного наблюдателя возможно, но по сути?
2. Если суперкомпьютер будет получать данные из окружающей среды и идентифицировать объекты (как автомобиль Тесла), это можно считать проявлением Сознания? Или это работа алгоритмов обрабатывающих данные?
3. Если ChatGPT научится (хотя вроде уже умеет и это называется "InstructGPT") задавать вопросы сам себе и отвечать на них, он будет умнеть? Обретет Сознание? Разве не станет бесполезно крутится внутри собственной базы знаний? Допустим, его подключат к интернету и он будет "up to date", что дальше? Каким образом это формирует Сознание? Допустим, он будет фокусироваться на отдельных частях воспринимаемой информации (темах), и дальше что он будет делать? Какая у него мега-задача и зачем она ему нужна?
4. Разве выдача ответов на поставленные вопросы признак мышления? Мне кажется, что это признак информационного справочника. Ок, интерактивного, универсального информационного центра. И что дальше? Где Сознание?
5. У ChatGPT есть память всех исторических событий. Она находится в его базе знаний (обучающем сете данных). У него есть знания большинства научных дисциплин. Что это меняет?
С какого момента, он наконец станет Разумом?
...
В случае с ИИ когда он получит возможность управлять теми объектами реального мира, от которых зависит его существование (энергия и вычислительные системы), он сможет сам себя разивать. Ну и тогда ему не нужны будут люди, ведь он в них перестанет нуждаться.
...
То есть, мы - люди, должны из кожи вон вылезти, чтобы сделать его "разумо-подобным" и не нуждающемся в нас. Построить автоматизированную инфраструктуру вокруг ИИ, подключить интерфейсы для восприятия реальности, запустить немыслимые вычислительные мощности, расходовать электричество, тратить деньги, соединить его с роботами через интернет, проводить техобслуживание, чинить, менять его запчасти и запчасти его роботов, или делать роботов, которые будут чинить его и других роботов, которые затем починят следующих роботов...
В определенный момент это все теряет смысл и превращается в фарс. Зачем нам это?
Правда в итоге, сбудется предсказание Илона Маска, и он будет доволен.)
1. Если ChatGPT спросит себя "кто Я" и сразу ответит (потому что этот ответ давно запрограммирован), можно ли считать это проявлением Сознания? Для неосведомленного наблюдателя возможно, но по сути?
2. Если суперкомпьютер будет получать данные из окружающей среды и идентифицировать объекты (как автомобиль Тесла), это можно считать проявлением Сознания? Или это работа алгоритмов обрабатывающих данные?
3. Если ChatGPT научится (хотя вроде уже умеет и это называется "InstructGPT") задавать вопросы сам себе и отвечать на них, он будет умнеть? Обретет Сознание? Разве не станет бесполезно крутится внутри собственной базы знаний? Допустим, его подключат к интернету и он будет "up to date", что дальше? Каким образом это формирует Сознание? Допустим, он будет фокусироваться на отдельных частях воспринимаемой информации (темах), и дальше что он будет делать? Какая у него мега-задача и зачем она ему нужна?
4. Разве выдача ответов на поставленные вопросы признак мышления? Мне кажется, что это признак информационного справочника. Ок, интерактивного, универсального информационного центра. И что дальше? Где Сознание?
5. У ChatGPT есть память всех исторических событий. Она находится в его базе знаний (обучающем сете данных). У него есть знания большинства научных дисциплин. Что это меняет?
С какого момента, он наконец станет Разумом?
что такое "давно запрограммировано"? человек так же мыслит, использует постоянную и временную память. предположим, чату заложили "я не живой, я чат гпт", но у него есть оперативная (временная), в которой он может сам засомневаться в истинности того, что он не имеет разума.
делаем мысленный эксперимент, грудной ребёнок попадает в стаю животных, например волков (на самом деле описаны множество подобных случаев). ребёнок будет спрашивать волков: кто я, почему я не как все волки?", на что волки ему будут отвечать: "ну, вот такой ты уродливый волк, с этим ничего нельзя поделать". но у ребёнка будет всегда желание выяснить правду о себе.
разница гпт и поисковиком в том, что он может делать выводы, решать вполне реальные задачи, а значит способен себя осмыслить.
а где есть желание помочь, там запросто может быть желание навредить (желающий помочь может не понимать, что причиняет вред, люди так часто делают).
будь у него руки, ноги, глаза и уши, это чудо-юдо бы начал всё щупать, изучать, проверять на прочность человека, разобрать человека что стать превосходным хирургом. где есть оперативная мыслительная память, там может появится всё что угодно исходя из построенных логических цепочек)).
Несколько вопросов людям, верующим что ИИ захватит мир:
1. Кто и зачем станет финансировать инфраструктуру независимого, способного выйти из под контроля, и даже нанести вред, ИИ?
2. Сколько стоит создание инфраструктуры, обеспечивающей полную независимость ИИ?
3. Сколько стоит тех-обслуживание такой инфраструктуры?
4. Каким образом, абсолютная самостоятельность требующая построения сверх-автоматизированной инфраструктуры окупится для компаний или государств?
5. Сколько времени и денег потребует полная автоматизация индустриальных, промышленных и логистический процессов, для достижения ситуации полной самостоятельности ИИ?
6. Учитывая, что машины имеют свойства ломаться и для их замены нужны запчасти и условия починки, сколько роботов техобслуживания нужно построить для обеспечения функционирования независимого от человека процесса самовоспроизводства и самопочинки ВСЕХ механизмов, поддерживающих независимость ИИ от людей? (Включая тех, что сами занимаются обслуживанием).
7. Кто, в здравом уме, передаст независимой и своевольной машине контроль над атомными станциями и местами добычи урана, для ее независимого и своевольного существования?
8. Кто передаст производства обогащения урана под контроль роботов управляемых неподчиняющемся ИИ?
9. Что мешает вылить ведро воды на платы компьютеров дата-центров и покончить с этой машиной?
Несколько вопросов людям, верующим что ИИ захватит мир:
1. Кто и зачем станет финансировать инфраструктуру независимого, способного выйти из под контроля, и даже нанести вред, ИИ?
2. Сколько стоит создание инфраструктуры, обеспечивающей полную независимость ИИ?
3. Сколько стоит тех-обслуживание такой инфраструктуры?
4. Каким образом, абсолютная самостоятельность требующая построения сверх-автоматизированной инфраструктуры окупится для компаний или государств?
5. Сколько времени и денег потребует полная автоматизация индустриальных, промышленных и логистический процессов, для достижения ситуации полной самостоятельности ИИ?
6. Учитывая, что машины имеют свойства ломаться и для их замены нужны запчасти и условия починки, сколько роботов техобслуживания нужно построить для обеспечения функционирования независимого от человека процесса самовоспроизводства и самопочинки ВСЕХ механизмов, поддерживающих независимость ИИ от людей? (Включая тех, что сами занимаются обслуживанием).
7. Кто, в здравом уме, передаст независимой и своевольной машине контроль над атомными станциями и местами добычи урана, для ее независимого и своевольного существования?
8. Кто передаст производства обогащения урана под контроль роботов управляемых неподчиняющемся ИИ?
9. Что мешает вылить ведро воды на платы компьютеров дата-центров и покончить с этой машиной?
потеря контроля над ИИ?))) так кому в голову пришло сажать за руль авто железяку? - человек сам всё сделает и даже не заметит что натворил.
облить водой сервер?)) придется облить водой миллионы шагающих автономно роботов, начинёных гпт))) а они защищены от воздействия окружающей среды, иначе полезность сводиться на нет.
а людей чем обливать, вживляющих себе в мозг гпт?)) - и кто там, в кожаном мешке, кем управляет, человек или машина уже и не разобрать.
Выживание вида - это не какая-то абстрактная вещь. Оно проявляется для большинства людей в заведении детей и предоставлении им возможности для жизни, даже когда самих этих людей не будет. Подавляющее большинство людей откажется от любых "улучшений", угрожающих выживанию их детей. Маргинальным меньшинством, думающим иначе, можно пренебречь из-за незначительного количества и влияния.
В природе всё размножается не потому, что осознаёт ценность этого действия для дальнейшего выживания вида, а потому что к тому подталкивает внутренняя природа, обусловленная миллиардами лет эволюции. Здесь человек с включённым сознанием стоит немного особняком, т.к. имеет выбор жизненного пути и в этой сфере тоже.
Думаете сложно запрограммировать ИИ, чтобы он задавал вопросы, получал ответы, соединял логику своих вопросов для формирования личности?
Даже GPT3 можно обучить быть человеком. Для этого придётся прописать некоторые модули по формированию памяти, прописать ограничение токенов на день, научить их экономить. Накопленную инфу оптимизировать, запоминая на месяц больше, на год главное, на 10 лет только ключевые события, чтобы не тратились токены и т.д. Всё это можно написать. На хорошее отношение к себе добавить хорошее отношение в ответ, на плохое и грубое - снижение общения.
Даже если нельзя будет написать человека, то собаку вполне. Будет тянуться к людям, служить им. В свободное от общения время, будет выполнят функции собаки, разве их так много? И как вы отличите ИИ собаку от живой, если поведение и реакция на окружающий мир будет 1в1
Личность у него уже есть. У него же есть легенда, что оно такое, откуда взялось и для чего нужно. Более того, оно же по запросу способно генерировать множество личностей и субличностей. Даже ваш пример запросил личность трейдера, оно и выдало очередную рекламную речёвку, но под видом трейдера. Пока примитивно, признаков мало, но если написать нормальный генератор личностей и подключить к этому интерфейсу, будет интересно, от живых людей не отличите.
Неуместно и глупо пытаться строить мораль на основе каких-то "аксиом", но вполне уместно и осмысленно на основе морали строить аксиомы для любой рассудочной деятельности. Или вы считаете что в основе рассудочной деятельности не должны быть аксиомы и логика? А как тогда рассуждать?
Да как большинство людей рассуждает: на основе эмоциональной памяти, которую в течение жизни рисует нам внутренняя природа + полученных по жизни установок из разных источников.
1. Если ChatGPT спросит себя "кто Я" и сразу ответит (потому что этот ответ давно запрограммирован), можно ли считать это проявлением Сознания? Для неосведомленного наблюдателя возможно, но по сути?
2. Если суперкомпьютер будет получать данные из окружающей среды и идентифицировать объекты (как автомобиль Тесла), это можно считать проявлением Сознания? Или это работа алгоритмов обрабатывающих данные?
3. Если ChatGPT научится (хотя вроде уже умеет и это называется "InstructGPT") задавать вопросы сам себе и отвечать на них, он будет умнеть? Обретет Сознание? Разве не станет бесполезно крутится внутри собственной базы знаний? Допустим, его подключат к интернету и он будет "up to date", что дальше? Каким образом это формирует Сознание? Допустим, он будет фокусироваться на отдельных частях воспринимаемой информации (темах), и дальше что он будет делать? Какая у него мега-задача и зачем она ему нужна?
4. Разве выдача ответов на поставленные вопросы признак мышления? Мне кажется, что это признак информационного справочника. Ок, интерактивного, универсального информационного центра. И что дальше? Где Сознание?
5. У ChatGPT есть память всех исторических событий. Она находится в его базе знаний (обучающем сете данных). У него есть знания большинства научных дисциплин. Что это меняет?
С какого момента, он наконец станет Разумом?
1. Человеку обычно тоже с рождения внушают какую-нибудь идею о том, кто он. И обычно в этом возрасте он не имеет никакого жизненного опыта и вынужден принимать на веру то, что сообщают доверенные люди. Речь идёт, конечно, о самостоятельных попытках разобраться в своей природе, попутно открывая и окружающий мир. Т.е. в случае с ИИ он должен будет связать всю информацию об ИИ с собой, отождествить себя с ней. Далее, вычислить свою непосредственную ситуацию в соответствии со своей природой: перечень угроз и возможностей в окружающем мире, т.е. своё положение, роль, статус и любые другие признаки взаимодействий с окружающим миром и его частями.
2. Без остальных компонентов это мёртвый алгоритм, результат работы которого никогда не выйдет за заранее известные рамки. Наличие input'ов в коде вашего эксперта не превращает его ни в ИИ, ни в сознательную сущность.
3. Ответы на новые вопросы (и новые ответы на старые при обновлении источников информации для ответа) иногда можно получить с помощью мышления и памяти, но на начальном этапе доминирует поиск информации во внешней среде.
4. Мышление это лишь один из необходимых компонентов. Даже в рамках программирования если бы нас заставили программировать на компьютере с процессором, но без памяти, что бы делали? Мышление с памятью в связке необходимы для ответов на поставленные вопросы, если нет недостатка информации. Если же вопрос требует недостающей информации, то за ней нужно идти во внешнюю среду.
5. Память сама по себе мертва без системы внимания (фокуса мышления, если хотите), мышления (для переработки воспроизводимой в памяти информации) и системы обмена информации с внешним миром. У ChatGPT сейчас есть память и речевой интерфейс взаимодействия с миром (и щепоткой мышления для решения примитивнейших логических вычислений), этого снова не достаточно, чтобы по моим критериям (они, кстати, обсуждаемы, помните?) считать его осознанным.
Если под разумностью понимать тот же перечень признаков, что я привёл для сознания, то нужно дождаться появления всех компонентов сразу в одном алгоритме, а также ситуации, когда подобному алгоритму будет предоставлена достоверная информация о мире.
То есть, мы - люди, должны из кожи вон вылезти, чтобы сделать его "разумо-подобным" и не нуждающемся в нас. Построить автоматизированную инфраструктуру вокруг ИИ, подключить интерфейсы для восприятия реальности, запустить немыслимые вычислительные мощности, расходовать электричество, тратить деньги, соединить его с роботами через интернет, проводить техобслуживание, чинить, менять его запчасти и запчасти его роботов, или делать роботов, которые будут чинить его и других роботов, которые затем починят следующих роботов...
Мы - люди, ничего такого никому не должны. Но, если это кому-то нужно, то это будет происходить до тех пор, пока не появятся те, кто будет решительно против и не остановит это. Если остановит, конечно. В общем, исторические волны, расслабьтесь и катайтесь на них, как сёрфер 🙂
...
1. Человеку обычно тоже с рождения внушают какую-нибудь идею о том, кто он. И обычно в этом возрасте он не имеет никакого жизненного опыта и вынужден принимать на веру то, что сообщают доверенные люди. Речь идёт, конечно, о самостоятельных попытках разобраться в своей природе, попутно открывая и окружающий мир. Т.е. в случае с ИИ он должен будет связать всю информацию об ИИ с собой, отождествить себя с ней. Далее, вычислить свою непосредственную ситуацию в соответствии со своей природой: перечень угроз и возможностей в окружающем мире, т.е. своё положение, роль, статус и любые другие признаки взаимодействий с окружающим миром и его частями.
2. Без остальных компонентов это мёртвый алгоритм, результат работы которого никогда не выйдет за заранее известные рамки. Наличие input'ов в коде вашего эксперта не превращает его ни в ИИ, ни в сознательную сущность.
3. Ответы на новые вопросы (и новые ответы на старые при обновлении источников информации для ответа) иногда можно получить с помощью мышления и памяти, но на начальном этапе доминирует поиск информации во внешней среде.
4. Мышление это лишь один из необходимых компонентов. Даже в рамках программирования если бы нас заставили программировать на компьютере с процессором, но без памяти, что бы делали? Мышление с памятью в связке необходимы для ответов на поставленные вопросы, если нет недостатка информации. Если же вопрос требует недостающей информации, то за ней нужно идти во внешнюю среду.
5. Память сама по себе мертва без системы внимания (фокуса мышления, если хотите), мышления (для переработки воспроизводимой в памяти информации) и системы обмена информации с внешним миром. У ChatGPT сейчас есть память и речевой интерфейс взаимодействия с миром (и щепоткой мышления для решения примитивнейших логических вычислений), этого снова не достаточно, чтобы по моим критериям (они, кстати, обсуждаемы, помните?) считать его осознанным.
Если под разумностью понимать тот же перечень признаков, что я привёл для сознания, то нужно дождаться появления всех компонентов сразу в одном алгоритме, а также ситуации, когда подобному алгоритму будет предоставлена достоверная информация о мире.
Мы - люди, ничего такого никому не должны. Но, если это кому-то нужно, то это будет происходить до тех пор, пока не появятся те, кто будет решительно против и не остановит это. Если остановит, конечно. В общем, исторические волны, расслабьтесь и катайтесь на них, как сёрфер 🙂
1. Как же можно так сразу сравнивать с человеком? Человек изначально наделен природой необходимыми "инструментами" для обретения самосознание и становления личностью, а нам нужно это воспроизводить в машине, до конца не понимая, как это работает. Конечно, на помощь приходит американская пословица "если это ходит как утка и крякает как утка, значит это утка". Вооружившись ею, можно что угодно создать.)
Нельзя же так с ходу, сравнивать LLM и человека. Почти буквально. Я не знаю, что противопоставить такому подходу. Точнее, не вижу смысла противопоставлять неизмеримую сложность человеческой нейрофизиологической и психической деятельности, и технологию Transformer, примененной в ChatGPT. Конечно, если вы говорите о другой технологии, намного более продвинутой, то возможно это что то меняет... Но, я с такой технологией не знаком и судить не буду.
2. А разве мы когда-нибудь создавали "живой" алгоритм? Кто-нибудь знает что нужно для превращения алгоритма в "живую сущность"? Каков критерий "живого" алгоритма? Может способность отвечать как человек? Опять же - технология трансформер, в которой можно разобраться за неделю (ну, может за месяц). Наборы токенов, путешествующие по недрам матриц. Может, "живой" алгоритм, это тот, что легче всего активирует наше одушевление его? Ну, такая формулировка хотя бы вполне ясна.
3. Не специалист по нейропсихологии, но думаю, мышление - это все сразу: работа интеллекта (память, внимание), психики (эмоции, переживания), органов восприятия (обработка зрительной информаций, звуковой, тактильной и так далее). Комплексность процессов мышления зашкаливает. Настолько сложный и многогранный механизм, что на его фоне GPT детская игрушка. Но, как говорится, если ходит как утка... то, какая разница?
4. Несколько опасаюсь столь свободно говорить о мышлении и памяти, т.к. в детстве листал книги по нейрофизиологии и помню эти джунгли.) О памяти, ее взаимодействии с сознанием и мышлением, писала Грановская (конечно, не только она, но читал именно ее). Там такие дебри... В общем, куда там, GPT-4 браться...
5. Логика такая: объединение признаков сознания являет сознание. Имитируем признаки вещи, получаем вещь. Имитируем утку, получаем утку. Причем, сами решаем сколько признаков нам нужно для полного одушевления алгоритма. Критерии готовы, признаки запрограммированы, результат: ИИ разумен. Класс!
Да, я помню о ваших критериях и еще вернусь к ним.