Большие проекты. - страница 6

 

Мой учёный кот намного более сознателен, психически уравновешен, а в своей области разума и высокоинтеллектуален, в сравнении с многими человеческими особями.

Вы, Петер, видимо, никогда не имели опыта общения с животными, если думаете, что у них нет разума, сознания, психики. Всё это у них есть.

А вот чего точно нет у вас, так это знаний в данной области. Вместо знаний - расхожие штампы.

 
Реter Konow:

Современный ИИ не опаснее дубины в руках дурака на большой дороге. Сам по себе ничего и никому не сделает.

Ну это лишь ваше самовнушение, реалии другие.

На мой взгляд, вы просто изначально не с того конца рассуждаете.  Все эти теста Тьюринга, отражения в зеркале и прочее - это лишь способы сравнения с человеческим интеллектом.  Но для того, чтобы начать разрушать и убивать, вовсе необязательно обладать высоким интеллектом.  Когда на тебя нападает акула, ей плевать, что ты высокоинтеллектуальное существо, а она мол даже не проходит тест зеркалом.  Она слопает тебя - и глазом не моргнёт. И твой интеллект тебе не поможет.  

 
Олег avtomat:

Мой учёный кот намного более сознателен, психически уравновешен, а в своей области разума и высокоинтеллектуален, в сравнении с многими человеческими особями.

Вы, Петер, видимо, никогда не имели опыта общения с животными, если думаете, что у них нет разума, сознания, психики. Всё это у них есть.

А вот чего точно нет у вас, так это знаний в данной области. Вместо знаний - расхожие штампы.

Вообще то, в своих высказываниях, я предпологал наличие зачатков психики и прото-сознания у животных. При этом, я не встречал высоко-интеллектуальных котов, которые были бы умнее некоторых человеческих особей. Если бы я с ними пообщался (с такими котами), возможно, это перевернуло бы мое мирровозрение. Предложите вашему коту написать мне в личку пожалуйста. Очень любопытно.

Насчет штампов, - так их полно не у меня (у меня наоборот, неординарные взгляды), а у тех, кто думает что может "восстать" какой то ИИ и всем навредить. Достаточно иметь совсем немного знаний и критического мышления, чтобы понять что на данном этапе технологического развития это невозможно.


P.S. Но с котом все таки поговорите. Интересно знать его мнение.

 
Alexey Navoykov:

Ну это лишь ваше самовнушение, реалии другие.

На мой взгляд, вы просто изначально не с того конца рассуждаете.  Все эти теста Тьюринга, отражения в зеркале и прочее - это лишь способы сравнения с человеческим интеллектом.  Но для того, чтобы начать разрушать и убивать, вовсе необязательно обладать высоким интеллектом.  Когда на тебя нападает акула, ей плевать, что ты высокоинтеллектуальное существо, а она мол даже не проходит тест зеркалом.  Она слопает тебя - и глазом не моргнёт. И твой интеллект тебе не поможет.  

В принципе, верно. Вирус тоже поражает организм без наличия осознанной цели. Но тогда мы должны говорить о сбоях в работе сложных систем, а не о "восстании ИИ".

Опасность ИИ оценивается выше, именно из за его "разумности", которая обеспечивает огромное преимущество, по сравнению с вирусом или хищником. Если ИИ будет обладать разумом и агрессивностью акулы, то логично, что для его уничтожения человеку потребуется не больше усилий, чем в охоте на акулу-людоеда. /*Вы когда нибудь слышали об акуле, с которой никто не мог справится и которая сожрала людей на всем побережье континента?*/

Суть в том, что более сильный Разум всегда будет доминировать над более слабым. Так устроена жизнь. Пока Разум человека сильнее "Разума" любого животного и тем более программы, то ему не о чем волноваться. Однако, когда ИИ обретет Разум превосходящий человеческий и обеспечит себе свободу и независимость, - только тогда он станет опасным для человека. При этом, вовсе не факт, что он будет иметь плохие намерения. Просто он будет неуправляем.

Чтобы создать такой ИИ, Разум современного человека должен быть неизмеримо выше. И пока этого нет, то и опасности никакой нет. )

 
Реter Konow:

Вообще то, в своих высказываниях, я предпологал наличие зачатков психики и прото-сознания у животных. При этом, я не встречал высоко-интеллектуальных котов, которые были бы умнее некоторых человеческих особей. Если бы я с ними пообщался (с такими котами), возможно, это перевернуло бы мое мирровозрение. Предложите вашему коту написать мне в личку пожалуйста. Очень любопытно.

Насчет штампов, - так их полно не у меня (у меня наоборот, неординарные взгляды), а у тех, кто думает что может "восстать" какой то ИИ и всем навредить. Достаточно иметь совсем немного знаний и критического мышления, чтобы понять что на данном этапе технологического развития это невозможно.


P.S. Но с котом все таки поговорите. Интересно знать его мнение.


Да ну, почти все коты умнее людей.

1 - Они на работу не ходят.

2 - Каждый кот имеет как минимум одного раба в виде человека, который:

a - их кормят,

б - убирает за ними лоток.

3. Не демонстрируют свой интеллект, чтобы их не раскусили и не обломили с пунктами 1 и 2.

 
Реter Konow:


P.S. Но с котом все таки поговорите. Интересно знать его мнение.


 

.

 
Dmitry Fedoseev:

Да ну, почти все коты умнее людей.

1 - Они на работу не ходят.

2 - Каждый кот имеет как минимум одного раба в виде человека, который:

a - их кормят,

б - убирает за ними лоток.

3. Не демонстрируют свой интеллект, чтобы их не раскусили и не обломили с пунктами 1 и 2.

Боже, как же мы упустили факт этого тотального порабощения! 

Люди - объединяйтесь против всемирного восстания котов! Оно неизбежно! ))

Да помогут нам Бог и собаки! )))

 
Alexey Navoykov:

Ну это лишь ваше самовнушение, реалии другие.

На мой взгляд, вы просто изначально не с того конца рассуждаете.  Все эти теста Тьюринга, отражения в зеркале и прочее - это лишь способы сравнения с человеческим интеллектом.  Но для того, чтобы начать разрушать и убивать, вовсе необязательно обладать высоким интеллектом.  Когда на тебя нападает акула, ей плевать, что ты высокоинтеллектуальное существо, а она мол даже не проходит тест зеркалом.  Она слопает тебя - и глазом не моргнёт. И твой интеллект тебе не поможет.  

Попробую принять вашу позицию, чтобы посмотреть на ситуацию другим взглядом. Давайте порассуждаем в стиле научно-фантастического жанра и поищем логические ошибки.

Вариант 1: Использование ИИ для выполнения злого умысла мошенников и бандитов.

И так, - ближайшее будущее.

Разработки разумных машин идут полным ходом. Некая компания создает роботов с усовершенствованными двигательными системами, блоками питания и программным обеспечением позволяющим заменять человека в тяжелой физической работе. Благодаря технологическому прорыву, ее дроны обретают условную самостоятельность, которая позволяет им самим оптимизировать свой труд и повышать эффективность действий в установленных ограничениях. Низко-уровневая логика достаточна им для рационального распределения траты собственных ресурсов на выполнение простейших производственных задач, таких как упаковка, погрузка и транспортировка грузов, или компоновка деталей у конвеера.

Некая банда, крадет партию роботов со складов компании и взламывает их программное обеспечение. Хакеры перепрограммируют дронов.

Какие возможности использования роботов этого уровня могут быть у бандитов? -  Огневое прикрытие и увеличение численности своих бойцов за счет присоединения к ним металлических дуболомов. Эффективность в бою или ограблении подобных систем будет очень низкая, и единственное преимущество которым они могут обладать - отсутствие инстинкта самосохранения и полное самопожертвование. Скорость и координация движений - под вопросом. Это зависит от вестибулярного аппарата и характеристик двигательных систем. Способность ориентировая в ситуации - минимальная. Заводские роботы не заточены для функционирования в динамичных и быстро усложняющихся ситуациях.  Выходит, такие роботы могут применятся бандитами как дополнительное средство для повышения огневой мощи и заграждение от пуль.

Чтобы подобные роботы были опасны для человека, их нужно специально создавать для этого. Затачивать на убийства и программировать военные навыки. При этом, они все равно будут значительно уступать человеку в бою, и будут выходить из строя "пачками".

Главное, в этом варианте у роботов полностью отсутствует самостоятельность, а значит их опасность не выше чем у любого другого оружия, которым полностью управляет человек. Значит, в этом случае, боятся нужно людей, а не робота, который является инструментом.

 

Вариант 2: Саморазвивающийся алгоритм достигший самосознания и решивший доминировать над людьми.

Некая компания ведет разработки ИИ и неожиданно открывает саморазвивающийся алгоритм, который на подобии клетки делится, множится и объединяется со своими копиями, наращивая свой функционал. Процесс ведется под наблюдением, и контролем со стороны ученых. На определенном этапе, алгоритм перестает быть понятным людям. Его развитие становится неуправляемым и движется в неизвестную им сторону. Исследования не позволяют ученым понять логику и цель его роста. Непредвиденный выход из под контроля проявляется в увеличении самостоятельности и неприменимости к решению ставящихся задач. Алгоритм "не хочет" их выполнять и создает собственную программную среду обитания. Эта среда, - продукт его деятельности. Люди еще контролируют рост этой "экосистемы" и алгоритм, ограничивая его пространство. Ученые оценивают уровень самоорганизующейся "алго-системы", как соответствующий высокоразвитому, социальному виду животного, но предпологают возможность достижения порога разумности и самосознания в ближайшем будущем. При этом, с ним не удается наладить контакт.

Тогда одному из ученых приходит в голову "гениальная" идея. Он переносит алгоритм в "мозг" человеко-образного робота, который обретает сознание и становится первым представителем разумной машины. Через некоторое время, он осознает себя как исключительное явление и следующий эволюционный скачек, и потому решает что должен доминировать над людьми. Он переносит копии себя во всех человеко-образных роботов и объявляет людям войну. 


Предлагаю всем самим поискать логические ошибки этих двух сценариев. Могу только сказать, что их множество.
 
Реter Konow:
Предлагаю всем самим поискать логические ошибки этих двух сценариев. Могу только сказать, что их множество.

Пора бы уже, что нибудь и закодить из "ИИ")))