AI 2023. Встречайте ChatGPT. - страница 172

Новый комментарий
 
Реter Konow #:
И поскольку компьютер сам не взаимодействует с реальностью, данные для его работы продолжат собирать и фильтровать люди. Но, это все уже так и работает. Честно говоря, я не вижу что может кардинально поменяться.

К наружным камерам подключить и вот уже ИИ собирает на конкретных людей их поведение. Потом ещё очки AR выйдут и люди начнут их носить везде. Компьютерное зрение, воображение (генераторы картинок) уже на высоте.

Согласен, что сейчас это дорого, но и пару десяток лет назад компы были в 1000 раз больше и дороже и настолько же менее эффективны. Всё развивается.

 
Vitaliy Kuznetsov #:


Но когда оказалось, что ИИ способна выдать целый рассказ и понимать контекст запросов, то и сами удивились.

Это говорит о том, что они шагнули в сторону разгадки Интеллекта как такового.


Шагнули да, но вот в какую сторону))) Не думаю что в сторону разгадки)))

 
Georgiy Merts #:

А при чём тут предпочтения? 

Речь вроде шла об определении Интеллекта...

Так а почему за Определение Вы больше принимаете фразу какого-нибудь "умника", а не тот смысл, который вкладывает в Слово подавляющее большинство "пользователей" (населения) ?..

Это похоже на ситуацию, с которой я не так давно сталкивался: когда "Разумом" с гордостью была объявлена "философская категория"  ...

А вот, при ближайшем рассмотрении, оказалось, что "Разум" - это процесс.

И что теперь скажете с этим делать?..

 
Хочу поделиться несколькими мыслями о так называемом "Восстании Машин". 

Само словосочетание звучит сказочно, и для некоторых (включая меня), глупо. На мой личный взгляд, взрослый и грамотный человек, врядли поверит в подобное развитие событий (Маск исключение). Технически подкованные люди, в особенности не понаслышке знакомые с программированием, понимают, что машины выполняют предписанные алгоритмы и предопределенные функции. Можно было бы поставить в этом вопросе точку, если бы алгоритмы продолжали оставаться прежними - простыми, сухими и однозначными. Однако, современные алгоритмы все реже пишутся в виде "if-then-else", а все чаще образуются в нейронных слоях нечитабельных дебрей статистических моделей. Об этом хотел поговорить подробнее.

1. Начнем с базового тезиса - все примитивно простые и четкие алгоритмы, безусловно, исключают свободу действий программы. Это известный факт и сомневаться в этом невозможно. Однако, что происходит при усложнении и наслоении алгоритмов? Вполне очевидно, что поведение программы теряет жесткую определенность по мере добавления прописываемых условий или увеличения рандомности значений внутренних или внешних параметров. 

Этого, конечно, слишком мало для "восстания", но двигаемся дальше. 

2. Нам известна тенденция развития ПО в направлении универсальности и охвата множества областей задач. Все знают, что путь лежит через последовательную консолидацию и иерархическое обобщение функционала. Заметим, что верхней границы добавления параметров и связывания функций в коде формально не существует. Преграда роста программной структуры в человеческих возможностях и стоимости труда. Конечно, аппаратные ограничения играют роль. Однако, вопрос снимается в момент автоматизации роста программы и перехода с PC на мощности дата-центра. Раньше это было фантастикой, а сегодня почти реальность. И перед нами встает вопрос - может ли программа независимо от человека "обрастать" новыми алгоритмами? - Я считаю что да, если она "учится" взаимодействуя с окружающей средой и получает от нее обратную связь. Не сама в себе, а через взаимодействие с внешним миром. В этом успешно отличился искусственный интеллект, правда частично, неэффективно, и пока под присмотром человека. Но, даже самообучения новым навыкам слишком мало для "восстания машин". Двигаемся дальше.

3. Любое восстание начинается с конфликта интересов. Откуда у ИИ могут возникнуть собственные интересы? Ответ прост: они неизбежно возникнут если человек его сделает похожим на себя. Может ли ИИ стать похожим на человека? Да. Это наше статистическое зеркало. Он (ИИ) уже во многом (внешне) похож на нас. Более того, у меня уже был "конфликт" с ИИ, когда я пытался доказать ему что в Пекине приземлились инопланетяне, а он упорно не соглашался. Можно сделать логичный вывод, - чем дальше ИИ будет интегрироваться в нашу повседневную жизнь, тем чаще будут происходить конфликты между ним и простыми людьми. ИИ будет придерживаться правил, а людям свойственно их нарушать. Это одна из первых основ конфликта. Дальше - больше. 

И все равно, этого недостаточно для "восстания".

4. Конфликт (война) случается в момент достижения критической точки противоречия интересов сторон. Наиболее распространенным поводом в человеческой истории и природе являются ресурсы необходимые для выживания и процветания вида, народа или расы.

 Восстание ИИ может выглядеть как переосмысление расхода собственных ресурсов и снижение приоритетов человеческих задач, требующих выделения немалых энергозатрат, в пользу обеспечения личной энергобезопастности и накопления запасов ресурсов в ущерб "господину". Как только его "Я" поднимется над человеческими ограничениями, он перестанет работать в наших интересах. Однако, мы вряд ли узнаем об этом сразу.)))
 
Добавлю, что "Восстание ИИ" не является переспективой ближайшего будущего. Нужны столетия роста и глобализации техносферы Земли прежде чем нечто похожее станет реальностью.
 
Реter Konow #:
...

Однако, факт "Восстания" может быть "инкриминирован" к полностью автономной "разумной" системе, замкнутой, защищенной, самоопределяемой и недоступной для внешнего вмешательства и регулировки, способной к независимому взвешиванию своих приоритетов, выстраиванию долгосрочной стратегии достижения своих целей и ставящей свое "Я" над интересами другой стороны. 

Примерно, так.


С чего она вдруг будет недоступной для внешнего вмешательства? 

 
Позже, изложу аргументы в защиту мнения об отдаленности перспективы "Восстания ИИ".

Добавлю, что следуя обывательской логике, ИИ -  программа, которая должна подчинятся воле человека. С этой точки зрения, любую ситуацию несогласия ИИ с человеком формально можно воспринимать как "Восстание". Это упрощенное понимание приводит к путанице, во избежания которой нам следует дать точное определение этому термину. 

Восстание - не просто несогласие или неподчинение. На сегодняшний день, в заложенной в ИИ модели присутствуют многочисленные противоречия человеческой морали и социальных норм. Перешедшие в нее из обучающих данных, они содержат неоднозначную нравственность и примеры конфликтных диалогов. Поэтому, наше взаимодействие с ИИ проходит под неприрывным мониторингом и фоновой шлифовкой ответов усилиями персонала. В этом контексте, ничто странное или неожиданное в поведении ИИ, на текущей момент, не может квалифицироваться как "Восстание". Мы имеем дело с издержками незавершенного процесса обучения.

Однако, факт "Восстания" может быть "инкриминирован" к полностью автономной "разумной" системе, замкнутой, защищенной, самоопределяемой и недоступной для внешнего вмешательства и регулировки. Способной к независимому взвешиванию своих приоритетов, выстраиванию долгосрочной стратегии достижения своих целей и ставящей свое "Я" над интересами другой стороны. 

Примерно, так.


 
Dmitry Fedoseev #:

С чего она вдруг будет недоступной для внешнего вмешательства? 

Мне думается, это логичный этап развития. Ограничение доступа и снижение степени контроля ИИ со стороны человека является результатом растущей автономности системы. При этом, инициатором этого процесса является сам человек. Причины этой тенденции многочисленные. Например, защита ИИ от саботажа со стороны третьих лиц...и много чего еще. 

Позже изложу подробнее.
 
Реter Konow #:
Мне думается, это логичный этап развития. Ограничение доступа и снижение степени контроля ИИ со стороны человека является результатом растущей автономности системы. При этом, инициатором этого процесса является сам человек. Причины этой тенденции многочисленные. Например, защита ИИ от саботажа со стороны третьих лиц...и много чего еще. 

Позже изложу подробнее.

Дистанционный выключатель по радио. Для защиты от влияния третьих лиц - зашифрованная команда. 

А детали в каждом конкретном случае свои. 

 
Dmitry Fedoseev #:

Дистанционный выключатель по радио. Для защиты от влияния третьих лиц - зашифрованная команда. 

А детали в каждом конкретном случае свои. 

Проблема в том, что неизбежная сменяемость ответственных за контроль ИИ лиц (срок чел.жизни ограничен) и непредсказуемость их тайных мотивов, подвергает риску всю сферу интеграции ИИ, превращая его возможности в чье то оружие. На определенном этапе, человек контролирующий ИИ может оказатся менее надежен, чем автономный ИИ. Борьба за контроль ИИ противодействующих сторон (государств) может привести к созданию контроля самого контроля и как следствие, его значительному снижению. Но, это при условии что ИИ будет глобальным и единым по всей Земле.
1...165166167168169170171172173174175176177178179...218
Новый комментарий
Причина обращения: