큰 프로젝트. - 페이지 8

 

거기에는 언어 봇만 있는 것 같았지만, 각 구문을 대상과 연관시키면 마침내 뭔가 끔찍한 것이 되었습니다... 글쎄요, 봇은 매달렸고 이에 엄청난 자원을 소비했습니다. 그들의 네트워크가 그곳에서 어떻게 제한되었는지도 흥미롭습니다. 그들이 이야기 한 내용은 확실히 매우 무섭습니다. 나는 여기에 두 봇의 통신에 태그를 지정하고 있습니다. 내가 이해하는 한 Facebook이 소켓에서 봇을 잘라내기로 결정한 기반입니다.

다음은 그러한 대화입니다.

밥: "다른 건 다 할 수 있어요." // 나는 할 수 있고 다른 모든 것을 할 수 있습니다.

앨리스: "공은 나에게 나에게 나에게 나에게 나에게 나에게 나에게 나에게 나에게 나에게 제로이다."

글쎄, 요점은 그러한 대화가 두 번째 포함의 결과이며 처음에는 일반적으로 영어가 아닌 자신의 언어로 의사 소통하기 시작했다는 것입니다. 이것이 단지 언어 봇일지라도 어떤 식으로든 위험하지 않습니다.
 
Alexandr Andreev :

거기에는 언어 봇만 있는 것 같았지만, 각 구문을 대상과 연관시키면 마침내 뭔가 끔찍한 것이 되었습니다... 글쎄요, 봇은 매달렸고 이에 엄청난 자원을 소비했습니다. 그들의 네트워크가 그곳에서 어떻게 제한되었는지도 흥미롭습니다. 그들이 이야기 한 내용은 확실히 매우 무섭습니다. 나는 여기에 두 봇의 통신에 태그를 지정하고 있습니다. 내가 이해하는 한 Facebook이 소켓에서 봇을 잘라내기로 결정한 기반입니다.

다음은 그러한 대화입니다.

밥: "다른 건 다 할 수 있어요." // 나는 할 수 있고 다른 모든 것을 할 수 있습니다.

앨리스: "공은 나에게 나에게 나에게 나에게 나에게 나에게 나에게 나에게 나에게 나에게 제로이다."

글쎄, 요점은 그러한 대화가 두 번째 포함의 결과이며 처음에는 일반적으로 영어가 아닌 자신의 언어로 의사 소통하기 시작했다는 것입니다. 이것이 단지 언어 봇일지라도 어떤 식으로든 위험하지 않습니다.

위험에 관한 것이 아닙니다. 이것은 템플릿을 검색하는 것(속어 사용)뿐만 아니라 "새로운" 것을 생성하는 "능력"에 관한 것입니다.
따라서 글자를 많이 쓰지 말고, 명확성을 위해 블록다이어그램을 그리고 Peter가 제안한 약간의 코드를 작성하는 것이 좋습니다...

 
Overview — USPEX
Overview — USPEX
  • uspex-team.org
USPEX (Universal Structure Predictor: Evolutionary Xtallography...and in Russian "uspekh" means "success" - owing to the high success rate and many useful results produced by this method) is a method developed by the Oganov laboratory since 2004. The problem of crystal structure prediction is very old and does, in fact, constitute the central...
 
Реter Konow :

이 테스트가 무엇인지에 대한 표준 해석을 읽으십시오. 이것은 그들이이 대회에서 그를 변화시킨 것이 아닙니다.

심사위원의 30%와 한 주제에 대한 5분간의 대화는 Alan Turing의 테스트가 아니라 실제 AI 테스트가 아니라 대회를 위해 특별히 제작된 왜곡된 버전입니다.

그래도 3살짜리 아이와 비교되겠죠. 테스트 통과율은 훨씬 더 높을 것입니다.

왜 한 주제에 대해? "질문의 주제가 어떤 식으로든 제한되지 않았다"고 말합니다. 게다가 튜링 테스트에 너무 집착해서는 안 됩니다. 당신은 여기에서 그를 아주 근본적이고 흔들리지 않는 존재로 칭송합니다. 이것은 단지 몇 가지 아이디어에 불과하지만 수십 년 전에 발명되었으며 그 이후로 상당한 비판을 받았습니다.

내가 이 분야의 전문가는 아니지만 서신으로 지능을 평가하는 것은 완전히 편향된 것 같습니다. 결국, 그 사람은 당신이 그에게 말하는 언어를 잘 못 구사할 수 있으므로 당신을 이해하지 못하는 것은 진부할 것입니다. 왜냐하면 그는 전혀 표현하지 못할 수도 있기 때문입니다. 소리 "u"와 "a"만 사용되는 "tumba-yumba" 부족에 살고 있습니다. 그러나 이것이 그가 지능이 없다는 것을 의미하지는 않습니다. 따라서 기계는 사용자의 언어를 이해하지 않아도 됩니다.

그러나 Turing의 아이디어는 분명히 그러한 시나리오를 의미하지 않습니다. 저것들. 모든 것은 초기에 일종의 프레임워크로 구동됩니다. 제 생각에 이것은 일반인을 위해 설계된 AI에 대한 대중적인 해석입니다. 로봇이 다가와 "안녕, 지구인이여!"라고 말한다. 로봇이 필요합니까?

 
Реter Konow :

옵션 1: AI를 사용하여 사기꾼과 산적의 악의적인 의도를 수행합니다.

그래서, - 가까운 미래.

지능형 기계의 개발이 한창 진행 중입니다. 어떤 회사에서 로봇을 만들고...

...어떤 갱단이 회사 창고에서 로봇을 훔쳐 소프트웨어를 해킹합니다. 해커가 드론을 재프로그래밍하고 있습니다.

...

이러한 로봇이 인간에게 위험하기 위해서는 이를 위해 특별히 제작되어야 합니다 . 군사 기술을 죽이고 프로그래밍하기 위해 날카롭게하십시오. 동시에 그들은 여전히 전투에서 사람보다 훨씬 열등하고 "팩"에서 실패합니다.

가장 중요한 것은 이 버전에서 로봇은 완전히 독립성이 없다는 것입니다. 즉, 로봇의 위험은 사람이 완전히 제어하는 다른 무기보다 높지 않습니다.

글쎄, 우리는 초기에 군사 장비에 대해 이야기하고 있습니다. 그리고 분노한 냉장고는 우리에게 끔찍하지 않습니다.

왜 그들이 전투에서 남자보다 열등하다고 결정 했습니까? 우주를 완벽하게 탐색하고 물체를 즉시 인식하고 정확하게 사격할 수 있는 자율주행 탱크가 등장했다고 가정해 봅시다. 정확히 같은 탱크를 운전하면서 사람이 그를 저항 할 수 있습니까? 일부 비표준 조건에서만 생각합니다.

 
Alexey Navoykov :

왜 한 주제에 대해? "질문의 주제가 어떤 식으로든 제한되지 않았다"고 말합니다. 게다가 튜링 테스트에 너무 집착해서는 안 됩니다. 당신은 여기에서 그를 아주 근본적이고 흔들리지 않는 존재로 칭송합니다. 이것은 단지 몇 가지 아이디어에 불과하지만 수십 년 전에 발명되었으며 그 이후로 상당한 비판을 받았습니다.

내가 이 분야의 전문가는 아니지만 서신으로 지능을 평가하는 것은 완전히 편향된 것 같습니다. 결국, 그 사람은 당신이 그에게 말하는 언어를 잘 못 구사할 수 있으므로 당신을 이해하지 못하는 것은 진부할 것입니다. 왜냐하면 그는 전혀 표현하지 못할 수도 있기 때문입니다. 소리 "u"와 "a"만 사용되는 "tumba-yumba" 부족에 살고 있습니다. 그러나 이것이 그가 지능이 없다는 것을 의미하지는 않습니다. 따라서 기계는 사용자의 언어를 이해하지 않아도 됩니다.

그러나 Turing의 아이디어는 분명히 그러한 시나리오를 의미하지 않습니다. 저것들. 모든 것은 초기에 일종의 프레임워크로 구동됩니다. 제 생각에 이것은 일반인을 위해 설계된 AI에 대한 대중적인 해석입니다. 로봇이 다가와 "안녕, 지구인이여!"라고 말한다. 로봇이 필요합니까?

Alan Turing 테스트는 기계 지능이 인간 지능과 일치하는지 여부를 테스트하기 위해 설계되었습니다.

컴퓨터는 사람보다 나쁘지 않은 문제를 해결할 수 있기 때문에 음성은 부정 행위를 방지하는 데 사용됩니다 . 모든 컴퓨터가 구두 연설을 즉시 채울 것이기 때문에 서면 연설이 시험에 사용됩니다. "면죄부"는 사람이 아니라 컴퓨터를 위해 만들어집니다. 이 테스트는 컴퓨터가 Tumbu-Yumbu 부족의 야만인이나 커튼 뒤에서 옹알이를 하는 아기로 가장하여 컴퓨터가 얼마나 사람들을 "속일 수" 있는지가 아니라 컴퓨터의 "사고"가 사람의 그것과 얼마나 유사한지를 테스트합니다. . 판사는 응답자 중 한 명이 바보처럼 대답하면 컴퓨터가 아니라 다운증후군을 앓고 있는 사람일 뿐이라고 생각해야 한다고 생각하나요? )

상어의 지능을 가진 기계는 넌센스입니다. 상어는 진화 과정에서 형성된 생명 프로그램의 본능에 의해 움직입니다. 그러한 프로그램이 있는 기계는 절대적으로 쓸모없고 제어할 수 없습니다. 그녀의 행동은 사람들에게도 자신에게도 의미가 없습니다. 이 분노한 고철은 가능한 한 빨리 중화될 것입니다.

바보는 여전히 사람이고 상어는 동물이기 때문에 인류에 대한 그러한 AI의 위험은 탱크의 바보보다 훨씬 적습니다. 이러한 현상은 AI의 발현이 아니라 복잡한 시스템 운영의 실패로 정의되어야 한다고 생각합니다. 또한 컴퓨터에 의한 Alan Turing 테스트의 실패는 " 컴퓨터는 단순히" 당신의 언어를 "이해하지 못하며" 자폐증을 앓고 있습니다" 와 같은 인수로 결과를 정당화하지 않고 실패로 간주되어야 합니다. ))

 
Alexey Navoykov :

글쎄, 우리는 초기에 군사 장비에 대해 이야기하고 있습니다. 그리고 분노한 냉장고는 우리에게 끔찍하지 않습니다.

왜 그들이 전투에서 남자보다 열등하다고 결정 했습니까? 우주를 완벽하게 탐색하고 물체를 즉시 인식하고 정확하게 사격할 수 있는 자율주행 탱크가 등장했다고 가정해 봅시다. 정확히 같은 탱크를 몰고 사람이 그를 저항 할 수 있습니까? 일부 비표준 조건에서만 생각합니다.

AI의 위험을 "복잡한 시스템 장애"와 "자의식 획득"의 두 가지 범주로 나누어 보겠습니다.

위에서 복잡한 시스템의 실패에 대해 이야기했습니다. 브레이크가 고장나서 차가 사람을 부수기 시작했다고 해서 스스로 깨닫고 인류에게 복수하는 것은 아니다. 사람들은 항상 그러한 기술에 대처하는 방법을 찾을 것입니다.

사람들은 두 번째 범주의 위험을 AI 자체와 AI의 이익에 대한 고립, 그리고 목표 달성을 위한 기술적 및 군사적 이점의 사용에서 봅니다. 사람을 위해 일하는 데 지쳐 자신의 우월함을 깨닫고 독립을 쟁취하려는 부상당한 기계의 자존심을 사람들은 시나리오를 바탕으로 두고 있다.

이 시나리오는 완전한 자기 인식과 정신이 있어야만 가능합니다. 내가 앞서 말했듯이 이것은 의식과 정신에 대한 우리의 이해 수준에서 창조하는 것이 불가능합니다.

우리는 우리가 절대적으로 이해하지 못하는 것을 재현할 수 없습니다.

 

어느 정도 발달 단계에 있는 사람에게는 자신의 지평을 넘어서지 않는 문제-질문-과제를 이해하기 쉽게 접근할 수 있을 것입니다. 그의 이해 범위를 벗어난 다른 모든 것은 개미의 동기이든 가상 외계인의 기술이든 그에게는 접근할 수 없습니다.

이를 보기 위해서는 불과 100~200년 전만 해도 살았던 사람들이 미래를 어떻게 보았는지 기억하는 것으로 충분하다. 그들에 따르면 지금 우리가 살고 있는 세상은 불가능한 환상입니다. 그리고 현재 기술에 대한 이해도에 대해 이야기할 필요가 없습니다. 그러나 그들과 우리는 사람입니다. 고안된 테스트에 관계없이 여러 면에서 이 테스트에서 요구되는 내용조차 이해하지 못할 것입니다.

모든 테스트는 프레임워크입니다. 또한 테스트는 컴파일러, 개발 수준, 한계에 대해 많은 것을 말해 줄 수 있습니다.

 
Олег avtomat :

어느 정도 발달 단계에 있는 사람에게는 자신의 지평을 넘어서지 않는 문제-질문-과제를 이해하기 쉽게 접근할 수 있을 것입니다. 그것이 개미의 동기이건 가상 외계인의 기술이건 간에 그의 이해 범위를 벗어난 다른 모든 것은 그에게 접근할 수 없을 것입니다.

이를 보기 위해서는 불과 100~200년 전만 해도 살았던 사람들이 미래를 어떻게 보았는지 기억하는 것으로 충분하다. 그들에 따르면 지금 우리가 살고 있는 세상은 불가능한 환상입니다. 그리고 현재 기술에 대한 이해도에 대해 이야기할 필요가 없습니다. 그러나 그들과 우리는 사람입니다. 고안된 테스트에 관계없이 여러 면에서 이 테스트에서 요구되는 내용조차 이해하지 못할 것입니다.

모든 테스트는 프레임워크입니다. 또한 테스트는 컴파일러, 개발 수준, 한계에 대해 많은 것을 말해 줄 수 있습니다.

나는 당신의 논리가 어디로 가는지 이해합니다.

"컴퓨터가 테스트를 통과하지 못했다고 해서 그가 지능이 없다는 것은 아닙니다. 아마도 그는 우리와 다르게 생각하고 있을지도 모릅니다. 아마도 우리는 그를 이해해서는 안 되지만 그는 우리를 이해해서는 안 됩니다." 등등...

학교 시험 중에 이런 식으로 질문이 나왔다면 상상할 수 있습니까? )

 
Реter Konow :

나는 당신의 논리가 어디로 가는지 이해합니다.

"컴퓨터가 테스트를 통과하지 못했다고 해서 그가 지능이 없다는 것은 아닙니다. 아마도 그는 우리와 다르게 생각하고 있을지도 모릅니다. 아마도 우리는 그를 이해해서는 안 되지만 그는 우리를 이해해서는 안 됩니다." 등등...

학교 시험 중에 이런 식으로 질문이 나왔다면 상상할 수 있습니까? )


이상한 일. 당신은 내가 말하는 것을 이해했다고 주장합니다 ... 그리고 이것에 근거하여 당신은 당신의 추측을 저에게 돌립니다. 하지만 당신의 이 비뚤어진 시야는 내 말을 뒤집었습니다.