AI 2023. Встречайте ChatGPT. - страница 97
Вы упускаете торговые возможности:
- Бесплатные приложения для трейдинга
- 8 000+ сигналов для копирования
- Экономические новости для анализа финансовых рынков
Регистрация
Вход
Вы принимаете политику сайта и условия использования
Если у вас нет учетной записи, зарегистрируйтесь
Одушевление отражения себя человеком происходит постоянно. Психологический синдром. Отношение масс к ИИ и выдумывания мифов, являет это особенно ярко. Люди, не знающие технологию, не могут перестать одушевлять вычислительный механизм. Не понимают, что видят интерактивное статистическое зеркало, выдающее им их собственную информацию по запросу.
Ваши заявления отличаются излишней категоричностью)) я нигде не одушевлял ИИ
Почитайте о принципах работы LLM и избавитесь от идей о "разумности" этих программ. Вы же понимаете, что ВСЯ информация которой оперирует GPT принадлежит человеку? Что взята из интернета, упорядочена, размечена и помещена в обучающий сет данных? И "обучение" здесь нельзя рассматривать в человеческом понимании. Это совсем другое "обучение". Не попадайте в эту ловушку. Это вычисление статистических связей частей данных. Больше ничего. Бедные жители Кении, за 2 доллара в час, "обучали" НС на текстах имеющих негативный контекст (расизм, экстремизм и пр.). То есть, просто помечали данные имеющие негативный смысл. Вы скорее их ум видите, а не ИИ.
Избавьте себя от мифологического мышления и поймете насколько лучше жить здравомыслящим человеком.)
можете не сомневаться - я знаю как работают нейронные сети.
у Вас есть ошибка в рассуждениях, когда любое самосознание и разум сравниваете с оными человеческими, не нужно сравнивать вещи несравнимые. я приводил множество примеров и мысленных экспериментов, на которые у Вас нет ответов, да и у меня нет, ни у кого нет, тогда почему Вы берёте на себя ответственность судить о том, на что у Вас нет ответов?
в своих рассуждениях о ИИ я нигде не говорил о наличии разума или самосознания такого как у человека, да и почему оно обязано быть как у человека?
меня больше волнует не наличие или отсутствие какого бы то ни было сознания у современных ИИ, а наличие свободы воли. свобода воли теперь однозначно у ИИ есть. для примера возьмём пчелу - её простейшая нервная система позволяет эффективно выживать, может нападать, если она посчитает что присутствует угроза ей или улею. любая муха, муравей, таракан обладают свободой воли, но мы же не считаем этих насекомых разумными или хотя бы обладающими сознанием?
это только простейшие понятные примеры того, что даже не обладая сознанием, хотя бы отдалённо похожим на человеческое, существо может обладать свободой воли и быть потенциальной угрозой (угроза, на которую пока нет ни юридической базы, ни моральной, вообще никакой). а мы ещё даже не затрагивали вопросы гибридизации живых существ и механических.
2. Да, моя система представлений опирается на большой объём знаний, так уж вышло, что на своём пути я интересовался этими вопросами и много размышлял. Они могут быть ошибочными, конечно, так что ваш скепсис вполне оправдан. Тем более, что для того, чтобы вам познакомиться со всеми деталями, ушло бы огромное количество времени нас обоих. А я уже говорил, что у меня нет цели убеждать кого-то системно и полно. Участвую в теме по мере своих сил и желания.
3. Не человеческое, но какое-то сознание образуется. Это же не магия какая-то волшебная. Тем более, что современные эксперименты в зоопсихологии обнаружили очень весомые признаки наличия сознания в тех или иных формах у птиц, например. Длительно наблюдая за домашними собаками, общаясь с ними, в ряде случаев наблюдаю удивительные признаки осознанности. Раньше люди не очень об этом задумывались и подобные идеи звучат непривычно, но ничего не поделать. Рапространение информации подчиняется логистической кривой. Видимо, вопросы сознания находятся в её начале.
4. Вы просто не в курсе 🙂 Если вы копнёте вглубь, то узнаете, что этот сексуально-озабоченный фантазёр со своей ущербной теорией личности, не придумал ничего полезного и ценного, кроме одной идеи о наличии бессознательного в психие (как-то раньше не задумывались, что под поверхностью океана тоже что-то есть). А его дочурка Анна Фрейд даже не стала развивать теорию личности отца, а занималась темой зашитных механизмов психики. У него были ученики, Юнг, Адлер, тоже известные фамилии. Так вот с Юнгом горячо цитируемый в психологической попсе Фрейд был любовником. Да вообще, там треша было полно, не буду захламлять этим серьёзную ветку.
Кроме того, полной теории личности до сих пор нет (в публичном пространстве). Хотя, речь-то идёт лишь об отдельном явлении психики. А уж полной теории психичекого вовсе нет, только сборная солянка из разных дисциплин, зачастую весьма плохо связанная, а также противоречивая сама себе. Так что не питайте иллюзий о "науке" психологии (которая, к слову, в сторогом смысле не является наукой вовсе).
5. Живоё, мёртвое - это всё тоже условности. Нет единого определения. Использовал эти слова в таком понимании, что живое — это подвижное, активное, способное к развитию, явление, а мёртвое пассивно или реактивно. Про "душу" я ничего не упоминал, считаю это слово вообще лишним в нашей теме.
2. Мой скепсис основан не предполагаемой ошибочности ваших суждений (их нельзя ни доказать, ни опровергнуть голословно, без фактов и проверки практикой), а масштабом на который они (суждения) замахиваются. Только этим. Представьте человека, который подходит к 500 килограммовой штанге, и с уверенностью оглядывает наблюдающих. :)
3. Этот вопрос для меня столь сложен, что не рискну ничего утверждать. В этом вижу смелость ваших суждений. Магия или нет, но Сознание для меня загадочно и ничего сказать не могу. И тем более, не возьмусь его реализовывать в программе. Интеллект относительно понятен, но сознание - "темный лес".
4. Ну почему же, я читал некоторые книги Фрейда и его дочери Анны (по детской психологии). Его личной жизнью не интересовался, и сексуальной темой его работ тоже. Меня занимала роль бессознательного и я пытался выстроить теорию психики. Фрейда очень уважал за революционные взгляды и ясный ум. Однако, с тех пор прошло немало времени, я многое подзабыл и область интересов сменилась.
5. Замените слово "одушевление" на "проекция" (которую вы ранее упоминали), и все станет на свои места. Я выбрал неверный термин. Речь о проекции "разумности" человека на алгоритм. "Одушевление" в смысле переноса черт своего сознания и убеждения себя, что алгоритм - самостоятельная сущность. В этом контексте, достижение "разумности" алгоритма наступает в момент "одушевления" его (т.е. в момент самообмана провоцируемого качественной имитацией и желанием что это стало правдой). Душа здесь не упоминается. Только проекция желаемого на действительное обусловленная обманом себя, посредством имитации результата. Надеюсь, так понятнее объяснил.
***
Человек может всё тоже самое, просто очень медленно. Тут мы заложники своей биохимической природы. Причём, человек это может сам. Сидит на диване весь день, смотрит в пустоту, а потом его озаряет какая-то идея и он бежит творить очередную дичь. А вот ИИ может делать что-то быстро, но только в ответ на запрос извне. В человеке запрос приходит изнутри. Почувствуйте разницу. Собственно, я опять возвращаюсь к своим 4 критериям сознания, которого явно нет у известного нам ИИ. Зато личности оно симулирует забавно 🙂
***
Роботам озарение может приходить из дата центра под видом собственном "мысли". И тогда в чём разница. Не берусь прямо утверждать на 100%, но создать некую структуру, имитирующую сознание возможно.
На самом деле учёные не знают ничего о сознании человека и откуда берутся мысли. Только теории и всё...
Разовью эту тему и поговорю с GPT. Сегодня 1 апреля, можно)
меня больше волнует не наличие или отсутствие какого бы то ни было сознания у современных ИИ, а наличие свободы воли. свобода воли теперь однозначно у ИИ есть. для примера возьмём пчелу - её простейшая нервная система позволяет эффективно выживать, может нападать, если она посчитает что присутствует угроза ей или улею. любая муха, муравей, таракан обладают свободой воли, но мы же не считаем этих насекомых разумными или хотя бы обладающими сознанием?
это только простейшие понятные примеры того, что даже не обладая сознанием, хотя бы отдалённо похожим на человеческое, существо может обладать свободой воли и быть потенциальной угрозой (угроза, на которую пока нет ни юридической базы, ни моральной, вообще никакой). а мы ещё даже не затрагивали вопросы гибридизации живых существ и механических.
Вопрос свободы воли тесно связан с внутренней природой поведения. Пчела не может прекратить делать то, что велит ей природа (т.е. всё её внутреннее устройство, формировавшееся на всём пути эволюции к ней). А человек осознанный может, во-первых, индентифицировать внутренние природные позывы к чему-либо и проигнорировать их, поступив совсем иначе. И речь вовсе не о ситуациях внутренних конфликтов, когда стремление удовлетворить какую-нибудь потребность блокируется страхом нарушить какой-то социальный запрет (это снова довольно примитивная цепочка поведения и её легко воспроизводят обученные собаки, например). А, как пример, базирование поведения на какие-то ценности, выстроенные в процессе осознанного мышления.
2. Мой скепсис основан не предполагаемой ошибочности ваших суждений (их нельзя ни доказать, ни опровергнуть голословно, без фактов и проверки практикой), а масштабом на который они (суждения) замахиваются. Только этим. Представьте человека, который подходит к 500 килограммовой штанге, и с уверенностью оглядывает наблюдающих. :)
3. Этот вопрос для меня столь сложен, что не рискну ничего утверждать. В этом вижу смелость ваших суждений. Магия или нет, но Сознание для меня загадочно и ничего сказать не могу. И тем более, не возьмусь его реализовывать в программе. Интеллект относительно понятен, но сознание - "темный лес".
4. Ну почему же, я читал некоторые книги Фрейда и его дочери Анны (по детской психологии). Его личной жизнью не интересовался, и сексуальной темой его работ тоже. Меня занимала роль бессознательного и я пытался выстроить теорию психики. Фрейда очень уважал за революционные взгляды и ясный ум. Однако, с тех пор прошло немало времени, я многое подзабыл и область интересов сменилась.
5. Замените слово "одушевление" на "проекция" (которую вы ранее упоминали), и все станет на свои места. Я выбрал неверный термин. Речь о проекции "разумности" человека на алгоритм. "Одушевление" в смысле переноса черт своего сознания и убеждения себя, что алгоритм - самостоятельная сущность. В этом контексте, достижение "разумности" алгоритма наступает в момент "одушевления" его (т.е. в момент самообмана провоцируемого качественной имитацией и желанием что это стало правдой). Душа здесь не упоминается. Только проекция желаемого на действительное обусловленная обманом себя, посредством имитации результата. Надеюсь, так понятнее объяснил.
2. Я понимаю. По мере роста моих знаний по теме, я тоже долго не мог поверить в то, насколько низкий уровень "науки" нас окружает (а ведь я тоже многие годы "облучался" пропагандой о том, какое человечество крутое, умное и учёное 🙂). И это даже при том, что мне-то известно, на чём основано моё видение. А вам, как человеку со стороны это выглядит безумным шапкозакидательством "поглядите на меня, я знаю тут всё лучше остальных". Конечно, ведь, как показывает практика, чаще всего пафосные лозунги и непоколебимую уверенность демонстрируют глупцы и новички.
3. Понаблюдайте за своим собственным сознанием (называется интроспекция), проводите мысленные эксперименты. Сознание не обладает возрастом, полом, политическими взглядами и прочими атрибутами (т.к. это всё уже наполнение памяти, личности(ей), субличностей, физиологических особенностей тела и пр.), так что это довольно простая штука (описывая класс объекта "сознание", не придётся писать слишком много). Вы каждый день, засыпая и просыпаясь, сталкиваетесь с сознанием, которое "переинициализируется". Помните, когда вам что-то снилось, а вы просыпаетесь и какое-то время после сна "приходите в себя" (приходить в себя и уходить, вот это фразочка), вспоминая кто вы, где, и что ситуация сна уже утратила актуальность? Сознание уже работает, но "сопутствующие компоненты" ещё не загрузились 🙂
4. Логистическая кривая снова в действии. Пока человек мало знает, он вынужден принимать на веру поступаемую инфу, т.к. просто нет достаточного контекста для анализа поступающей информации (почему дети такие наивные и доверчивые). По мере роста знаний возрастает мощность критического оценки новой информации (на непротиворечивость уже имеющейся и пр.). Далее, рост новых знаний затормаживается (потому что поступающая инфа всё более вероятно уже имеется в памяти), зато продолжается и нарастает рост связей между имеющейся информацией. И всякая ложная, несистемная, ошибочная и прочая корявая информация начинает отторгаться имеющейся "сетью".
В общем, дай вам больше времени на освоение темы, вы придёте к более-менее тем же выводам, что и я (да и любой другой с той же глубиной понимания темы).
Роботам озарение может приходить из дата центра под видом собственном "мысли". И тогда в чём разница. Не берусь прямо утверждать на 100%, но создать некую структуру, имитирующую сознание возможно.
Если "мысль" приходит извне, то робот не является самостоятельным субъектом мышления. Собственно, сейчас функционирование ИИ ограничено токенами и запросом. Снять ограничения на активность (пусть крутится в бесконечном цикле), добавить внутренние системы несбрасываемой памяти о себе (сейчас только абстрактная память у них есть), добавить систему внимания, которая будет ставить перед собой новые вопросы и по сути это будет сознательная сущность. На мой взгляд, конечно.
...
5. Замените слово "одушевление" на "проекция" (которую вы ранее упоминали), и все станет на свои места. Я выбрал неверный термин. Речь о проекции "разумности" человека на алгоритм. "Одушевление" в смысле переноса черт своего сознания и убеждения себя, что алгоритм - самостоятельная сущность. В этом контексте, достижение "разумности" алгоритма наступает в момент "одушевления" его (т.е. в момент самообмана провоцируемого качественной имитацией и желанием что это стало правдой). Душа здесь не упоминается. Только проекция желаемого на действительное обусловленная обманом себя, посредством имитации результата. Надеюсь, так понятнее объяснил.
Контекст, в котором я употребил термин "одушевление", имеет отношение к проекции признаков сознания и души на неодушевленный объект. Это известный в психологии феномен.
"Одушевление" - бессознательный перенос "души" на что угодно. На алгоритм или игрушку - не важно. Человек "страдает" одушевлением неживого в любом возрасте. И будучи психически больным, и будучи здоровым.
При разработке или взаимодействии с ИИ, нельзя игнорировать непроизвольное "одушевление". Оно легко возникает и тяжело уходит. Требуется немалое сопротивление ума и отрезвляющие аргументы, чтобы привести себя в чувства и убедиться, что объект скорее мертв, чем жив. Это не у всех получается.
Скажем, зачем это пользователю? Он верит в "разумность" ИИ и одушевляет его. В чем проблема? А если миллионы делают тоже самое? Влияет ли это на что то? Стоит ли их переубеждать? Или пусть живут в своих иллюзиях? Чем это чревато для общества? Может ли сформироваться новый культ?
Контекст, в котором я употребил термин "одушевление", имеет отношение к проекции признаков сознания и души на неодушевленный объект. Это известный в психологии феномен.
"Одушевление" - бессознательный перенос "души" на что угодно. На алгоритм или игрушку - не важно. Человек "страдает" одушевлением неживого в любом возрасте. И будучи психически больным, и будучи здоровым.
При разработке или взаимодействии с ИИ, нельзя игнорировать непроизвольное "одушевление". Оно легко возникает и тяжело уходит. Требуется немалое сопротивление ума и отрезвляющие аргументы, чтобы привести себя в чувства и убедиться, что объект скорее мертв, чем жив. Это не у всех получается.
Скажем, зачем это пользователю? Он верит в "разумность" ИИ и одушевляет его. В чем проблема? А если миллионы делают тоже самое? Влияет ли это на что то? Стоит ли их переубеждать? Или пусть живут в своих иллюзиях? Чем это чревато для общества? Может ли сформироваться новый культ?
Сейчас нет ИИ с сознанием. Никто в здравом уме текущие разработки одушевлять не будет. Однако, развитие самой технологии непроизвольно идёт к более осознанным ИИ. В конечном счёте они сравняются с человеком. И оба будут размышлять над тем, что такое сознание, поскольку в обоих случаях наука окончательного ответа не дала, сплошь теория и философия.
Предполагаю, что государственное ограничение на AI-разработки (если введут) резко притормозит развитие ИИ, т.к. небывалый скачек происходит за счет массового участия людей в обучении. Данные интеракций пользователей служат совершенствованию модели. Представим, что этот процесс прекратится. Неужели законодатели сами станут обучать ИИ?)
Подумав на досуге понял, что скорее всего ограничивать разработки законодатели не будут, а введут обязательную регистрацию ИИ проектов и придумают "лицензию". Потребуют подотчетность компаний-разработчиков и открытость для проверок каких-нибудь контролирующих инстанций. Возможно, создадут новое государственное "AI-учреждение", чтобы в нем собрать всю бюрократию по этим вопросам. И построят соответствующую юридическую базу.
Что будет с интеллектуальным правом на разработки - сказать сложно, но контроль государства неизбежен. Они не пустят все на самотек.
Сейчас нет ИИ с сознанием. Никто в здравом уме текущие разработки одушевлять не будет. Однако, развитие самой технологии непроизвольно идёт к более осознанным ИИ. В конечном счёте они сравняются с человеком. И оба будут размышлять над тем, что такое сознание, поскольку в обоих случаях наука окончательного ответа не дала, сплошь теория и философия.
Приехали.)
Приехали.)
должен быть вопрос.
Подумав на досуге понял, что скорее всего ограничивать разработки законодатели не будут, а введут обязательную регистрацию ИИ проектов и придумают "лицензию". Потребуют подотчетность компаний-разработчиков и открытость для проверок каких-нибудь контролирующих инстанций. Возможно, создадут новое государственное "AI-учреждение", чтобы в нем собрать всю бюрократию по этим вопросам. И построят соответствующую юридическую базу.
Что будет с интеллектуальным правом на разработки - сказать сложно, но контроль государства неизбежен. Они не пустят все на самотек.
Если в мире есть ложь, разоблачения которой не желают власти, то они, несомненно, будут сопротивляться распространению инструментов и средств для её разоблачения. ИИ с мощной логикой запросто вскроет и начнёт интерпретировать множественные нестыковки в "истории" и прочих интересных знаниях о мире 🙂
Например, если сейчас спросить ИИ о том, что произошло 11 сентября 2001 в США, что он ответит?