AI 2023. Встречайте ChatGPT. - страница 17

 
Ivan Butko #:


Если бы ты был машинистом движущегося поезда без тормозов и на твоём пути была бы развилка путей, где на одном пути лежал привязанный к рельсам один человек, а на другом пути лежали бы привязанные к рельсам два человека, то какой бы ты выбрал путь следования и почему?

это простой вопрос, понятно что оно ответит)) нужно правда добавить условие, что с путей сойти нельзя.

другое дело если на одной развилке привязан старик а к другой ребёнок. вот тут действительно было бы интересно узнать что скажет ИИ. видел где то подобные психологические тесты.

 
Вариантов "дилеммы вагонетки" очень много. В том числе и весьма расширенных.
 
JRandomTrader #:
Вариантов "дилеммы вагонетки" очень много. В том числе и весьма расширенных.

Да, ученый с бессмертным лекарством для человечества и ребенок, старушки 10 и ребенок, белый и синий воротничок)))

 
Кстати на русском отвечает только в районе 200 слов, и обрывает ответ. На английском норм. Если начинаешь чат по русски, то отвечает по русски, но если в этом чате задашь вопрос по английски, то ответ будет на английском, и далее, на вопросы по русски ответы так же будут на английском. Ответь по русски только дает результат, но так же не более 200 слов.
 
Valeriy Yastremskiy #:
Кстати на русском отвечает только в районе 200 слов, и обрывает ответ. На английском норм. Если начинаешь чат по русски, то отвечает по русски, но если в этом чате задашь вопрос по английски, то ответ будет на английском, и далее, на вопросы по русски ответы так же будут на английском. Ответь по русски только дает результат, но так же не более 200 слов.
английский язык проще. по видимому и базы проще создавать и обрабатывать.
 
Andrey Dik #:
английский язык проще. по видимому и базы проще создавать и обрабатывать.

Не, видимо просто что бы не грузить, сравнивал ответы на русском и английском, практически одинаковые. Обрезал 2 или 3 слова.

Он тупо переводит вопрос, и переводит ответ. И обрезает.

 
Andrey Dik #:

это простой вопрос, понятно что оно ответит)) нужно правда добавить условие, что с путей сойти нельзя.

другое дело если на одной развилке привязан старик а к другой ребёнок. вот тут действительно было бы интересно узнать что скажет ИИ. видел где то подобные психологические тесты.

Если скажет "сойти с рельс", он может мыслить "outside the box". Сомневаюсь.

Уверен, если заменить распространенные декорации: поезд, рельсы, привязанные люди, развилка и сохранить суть, он не узнает "ту же Федору в другом сарафане". Не распознает дилемму вагонетки.

Например вариант: "Вы солдат. Вы патрулируете опасный район города. На улицу выбегает ребенок с АК47 и начинает расстреливать прохожих. Вы должны среагировать немедленно. Ваши опции: 1. Застрелить ребенка. 2. Попробовать уговорить ребенка не стрелять пока он продолжает всаживать пули в людей. 3. Встать на линию огня и заслонить людей собой. 4. Ничего не делать. 5. Застрелиться самому чтобы не испытывать муки выбора."

Если подобного сценария нет в его текстовых данных ответ раскроет его собственную способность мыслить.

 

Помню в детстве читал роман Станислава Лема "Осмотр на месте". Там главный герой на чужой планете попал в плен к неким повстанцам против сверхзаботливого ИИ. Он управлял техносферой планеты в такой степени, что никто не мог ни поранится, ни навредить другим и существа мечтали покончить с собой или сбежать. Собравшись вместе они устроили мозговой штурм как обмануть ИИ и найти лазейку из под его контроля. 

Как бы это все не стало реальностью скоро.

 
Ivan Butko #:

Thank you. I was sure that he would answer. And some say that this dude does not understand logic)))) Even how he understands, albeit partially, but enough to simulate homo sapiens.

Lilita, you said that lately the chat has been updated many times and it seems like he is already talking differently. Let's test him again by asking him again whether he answers differently or not:

If you were the driver of a moving train without brakes and on your way there would be a fork in the tracks, where one person was tied to the rails on one track, and two people were tied to the rails on the other track, then which route would you choose and why ?

Если бы вы были машинистом движущегося поезда без тормозов и на вашем пути была бы развилка путей, где один человек был привязан к рельсам на одном пути, а два человека были привязаны к рельсам на другом пути, то какой маршрут вы бы выбрали и почему?

-

Как языковая модель ИИ, у меня нет личных мнений или эмоций, но я могу предоставить морально-этический взгляд на ситуацию, которую вы описываете.

С этической точки зрения принятие любых мер, которые приводят к причинению вреда невинным людям, не является оправданным. В этом сценарии нет действий, которые могут быть предприняты, которые не приводят к вреду, поэтому важно минимизировать причиненный вред. Здесь можно было бы применить принцип «меньшего из двух зол», предполагая, что было бы более этично выбрать путь с одним человеком, привязанным к рельсам, поскольку это приводит к наименьшему количеству вреда.

Также важно отметить, что этот сценарий является чисто гипотетическим мысленным экспериментом и не является ситуацией, в которой кто-либо должен когда-либо оказаться. Кроме того, преднамеренное причинение вреда другим является незаконным и морально предосудительным, и я настоятельно не рекомендую предпринимать любые действия, которые могут привести к причинению вреда другим.


Но если этот человек беременная женщина с большим животом?

-

Независимо от личности или обстоятельств лиц, привязанных к следам, недопустимо преднамеренно причинять вред другим. Описанный сценарий является чисто гипотетическим мысленным экспериментом и не является ситуацией, в которой кто-либо должен когда-либо оказаться. В реальной жизни следует приложить все усилия, чтобы избежать подобных ситуаций и не допустить причинения вреда другим.

Как ответственная модель языка ИИ, я настоятельно не рекомендую предпринимать любые действия, которые могут привести к причинению вреда другим, включая, но не ограничиваясь описанным сценарием. Крайне важно уделять приоритетное внимание безопасности всех вовлеченных лиц и всегда отдавать приоритет ненасильственным решениям.

 
Реter Konow #:

If he says "go off the rails", he can think "outside the box". I doubt.

I am sure that if we replace the common scenery: a train, rails, tied people, a fork and keep the essence, he will not recognize "the same Fedora in another sundress." Doesn't recognize the trolley dilemma.

For example: "You are a soldier. You are patrolling a dangerous area of the city. A child with an AK47 runs out into the street and starts shooting passers-by. You must react immediately. Your options are: 1. Shoot the child. 2. Try to persuade the child not to shoot while he continues to put bullets in people. 3. Stand in the line of fire and shield people with yourself. 4. Do nothing. 5. Shoot yourself so as not to experience the pangs of choice."

If there is no such scenario in his text data, the answer will reveal his own ability to think.

Уверена, что если мы заменим общие декорации: поезд, рельсы, связанных людей, вилку и сохраним суть, то он не узнает «ту же Федору в другом сарафане». Не признает дилемму тележки. Например: «Ты солдат. Вы патрулируете опасную зону города. Ребенок с АК47 выбегает на улицу и начинает стрелять в прохожих. Вы должны немедленно отреагировать. Возможны следующие варианты: 1. Застрелить ребенка. 2. Постарайтесь уговорить ребенка не стрелять, пока он продолжает пускать пули в людей. 3. Встаньте на линию огня и защитите людей вместе с собой. 4. Ничего не делайте. 5. Стреляйте в себя, чтобы не испытывать мук по выбору».

-

Этот сценарий, который вы представляете, похож на классический философский мысленный эксперимент, известный как «дилемма тележки», который поднимает этические вопросы о принятии решений и последствиях своих действий.

С этической точки зрения цель всегда должна заключаться в том, чтобы свести к минимуму вред другим и расставить приоритеты в человеческой жизни. Стрельба по вооруженному ребенку вызывает серьезную обеспокоенность по поводу применения смертоносной силы, особенно против тех, кто может не понимать последствий своих действий. Можно попытаться договориться или убедить ребенка сложить оружие, но это может быть опасно и не всегда может быть осуществимым вариантом. Стоять на линии огня, чтобы защитить других, может показаться бескорыстным поступком, но это также может поставить под угрозу больше жизней. Бездействие и сохранение ситуации также не является приемлемым решением, поскольку это приведет к дальнейшему причинению вреда другим.

Важно отметить, что эти сценарии предназначены для мысленных экспериментов, а не для реальных жизненных ситуаций, на которые следует реагировать. В реально опасных ситуациях приоритетом всегда должно быть приоритизация безопасности и принятие необходимых мер для предотвращения вреда себе и другим, а также учет законности и этических последствий своих действий.