Büyük projeler. - sayfa 8
Alım-satım fırsatlarını kaçırıyorsunuz:
- Ücretsiz alım-satım uygulamaları
- İşlem kopyalama için 8.000'den fazla sinyal
- Finansal piyasaları keşfetmek için ekonomik haberler
Kayıt
Giriş yap
Gizlilik ve Veri Koruma Politikasını ve MQL5.com Kullanım Şartlarını kabul edersiniz
Hesabınız yoksa, lütfen kaydolun
http://www.techtimes.com/articles/212124/20170730/facebook-ai-invents-language-that-humans-cant-understand-system-shut-down-before-it-evolves-into-skynet.htm
orada sadece sözlü botlar varmış gibi görünüyordu, ancak her cümleyi bir nesneyle ilişkilendirseler de, o zaman sonunda korkunç bir şey oldu ... Peki, ne olmuş yani, botlar asılı kaldı, kaynağın inanılmaz bir gücünü buna harcadı. Eh, oradaki ağlarının nasıl sınırlı olduğu da ilginç. Gerçi konuştukları şey kesinlikle çok korkutucu. Burada, Facebook'un onları prizden çıkarmaya karar vermesine dayanarak, anladığım kadarıyla iki botun iletişimini etiketliyorum.
İşte böyle bir diyalog:
Bob: "Diğer her şeyi yapabilirim." // Yapabilirim ve diğer her şey
Alice: "Toplar bana bana bana bana bana bana bana bana bana bana sıfırdır."
Bütün mesele şu ki, böyle bir diyalog ikinci dahil etmenin sonucudur ve başlangıçta genellikle kendi dillerinde iletişim kurmaya başladılar - İngilizce değil. Bunlar yalnızca sözlü botlar olsa da, hiçbir şekilde tehlikeli değildirler.orada sadece sözlü botlar varmış gibi görünüyordu, ancak her cümleyi bir nesneyle ilişkilendirseler de, o zaman sonunda korkunç bir şey oldu ... Peki, ne olmuş yani, botlar asılı kaldı, kaynağın inanılmaz bir gücünü buna harcadı. Eh, oradaki ağlarının nasıl sınırlı olduğu da ilginç. Gerçi konuştukları şey kesinlikle çok korkutucu. Burada, Facebook'un onları prizden çıkarmaya karar vermesine dayanarak, anladığım kadarıyla iki botun iletişimini etiketliyorum.
İşte böyle bir diyalog:
Bob: "Diğer her şeyi yapabilirim." // Yapabilirim ve diğer her şey
Alice: "Toplar bana bana bana bana bana bana bana bana bana bana sıfırdır."
Bütün mesele şu ki, böyle bir diyalog ikinci dahil etmenin sonucudur ve başlangıçta genellikle kendi dillerinde iletişim kurmaya başladılar - İngilizce değil. Bunlar yalnızca sözlü botlar olsa da, hiçbir şekilde tehlikeli değildirler.Bu tehlikeyle ilgili değil. Bu, yalnızca bir şablon arama (argonuzu kullanarak) değil, aynı zamanda "yeni" bir şey üretme "yeteneği" ile ilgilidir.
Bu nedenle, çok fazla mektup yazmamak, ancak netlik için bir blok diyagram çizmek ve Peter'ın önerdiği biraz kodlamak daha iyidir ...
http://uspex-team.org/en/uspex/overview
http://journal.frontiersin.org/article/10.3389/fnsys.2016.00095/full
Bu testin ne olması gerektiğine ilişkin standart yorumu okuyun. Bu yarışmalarda onu dönüştürdükleri şey bu değil.
Jüri üyelerinin yüzde 30'u ve bir konuda 5 dakikalık bir konuşma Alan Turing'in testi DEĞİL, bunun çarpık bir versiyonudur, gerçek yapay zekayı test etmek için değil, yarışma için özel olarak yaratılmıştır.
Yine de 3 yaşındaki bir çocukla karşılaştırılacaktı. Test geçme oranı daha da yüksek olacaktır.
Neden bir konuda? "Soruların konuları hiçbir şekilde sınırlandırılmamış" diyor. Ayrıca Turing testine bu kadar takılmamak gerekiyor. Onu burada çok temel ve sarsılmaz bir şey olarak övüyorsunuz. Bu sadece bir fikir olmasına rağmen, onlarca yıl önce icat edildi ve o zamandan beri önemli eleştirilere maruz kaldı.
Diyelim ki ben bu alanda uzman değilim ama bana göre istihbaratı yazışma yoluyla değerlendirmek tamamen önyargılı. Ne de olsa, bir kişi onunla konuştuğunuz dile çok az hakim olabilir, bu yüzden sizi anlamamak saçma olur. Hatta hiç ifade edemeyebilir, çünkü. sadece "u" ve "a" seslerinin kullanıldığı "tumba-yumba" kabilesinde yaşar. Ama bu onun zekası olmadığı anlamına gelmez. Buna göre, makinenin dilinizi anlaması gerekmez.
Ancak Turing'in fikri açıkçası böyle bir senaryoyu ima etmiyor. Onlar. her şey başlangıçta bir tür çerçeveye yönlendirilir. Bence bu, sıradan insanlar için tasarlanmış AI'nın böylesine pop bir yorumu. Bir robotun yanına geleceğini ve "Selam dünyalı!" diyeceklerini söylüyorlar. Robotun buna ihtiyacı var mı?
Seçenek 1: Dolandırıcıların ve haydutların kötü niyetlerini gerçekleştirmek için yapay zekayı kullanmak.
Ve böylece, - yakın gelecek.
Akıllı makinelerin gelişimi tüm hızıyla devam ediyor. Belirli bir şirket robotlar yaratır...
...Belli bir çete, şirketin depolarından bir grup robotu çalar ve yazılımlarına girer. Bilgisayar korsanları dronları yeniden programlıyor.
...
Bu tür robotların insanlar için tehlikeli olabilmesi için özel olarak bunun için yaratılmış olmaları gerekir . Askeri becerileri öldürmek ve programlamak için keskinleştirin. Aynı zamanda, savaştaki bir kişiden önemli ölçüde daha düşük olacaklar ve "paketlerde" başarısız olacaklar.
En önemlisi, bu versiyonda robotlar bağımsızlıktan tamamen yoksundur, bu da tehlikelerinin tamamen bir kişi tarafından kontrol edilen diğer silahlardan daha yüksek olmadığı anlamına gelir.
Eh, başlangıçta askeri teçhizattan bahsediyoruz. Ve öfkeli buzdolabı bizim için korkunç değil.
Neden savaşta bir adamdan daha aşağı olacaklarına karar verdin? Diyelim ki uzayda mükemmel bir şekilde hareket edebilen, nesneleri anında tanıyabilen ve doğru bir şekilde ateş edebilen kendi kendini süren bir tank ortaya çıktı. Bir kişi tamamen aynı tankı sürerek ona direnebilecek mi? Sanırım, sadece standart olmayan bazı koşullarda.
Neden bir konuda? "Soruların konuları hiçbir şekilde sınırlandırılmamış" diyor. Ayrıca Turing testine bu kadar takılmamak gerekiyor. Onu burada çok temel ve sarsılmaz bir şey olarak övüyorsunuz. Bu sadece bir fikir olmasına rağmen, onlarca yıl önce icat edildi ve o zamandan beri önemli eleştirilere maruz kaldı.
Diyelim ki ben bu alanda uzman değilim ama bana göre istihbaratı yazışma yoluyla değerlendirmek tamamen önyargılı. Ne de olsa, bir kişi onunla konuştuğunuz dile çok az hakim olabilir, bu yüzden sizi anlamamak saçma olur. Hatta hiç ifade edemeyebilir, çünkü. sadece "u" ve "a" seslerinin kullanıldığı "tumba-yumba" kabilesinde yaşıyor. Ama bu onun zekası olmadığı anlamına gelmez. Buna göre, makinenin dilinizi anlaması gerekmez.
Ancak Turing'in fikri açıkçası böyle bir senaryoyu ima etmiyor. Onlar. her şey başlangıçta bir tür çerçeveye yönlendirilir. Bence bu, yapay zekanın sıradan insanlar için tasarlanmış pop bir yorumu. Bir robotun yanına gelip "Selam dünyalı!" derler. Robotun buna ihtiyacı var mı?
Alan Turing testi, makine zekasının insan zekasıyla eşleşip eşleşmediğini test etmek için tasarlanmıştır.
Konuşma, aldatmayı önlemek için kullanılır, çünkü bir bilgisayar bir insandan daha kötü sorunları çözemez. Testte yazılı konuşma kullanılır, çünkü herhangi bir bilgisayar sözlü konuşmayı hemen dolduracaktır. "Hoşgörü" kişi için değil, bilgisayar için yaratılır. Test, bir bilgisayarın "düşünmesinin" bir kişininkine ne kadar benzediğini test eder ve bir bilgisayarın Tumbu-Yumbu kabilesinden bir vahşi veya perdenin arkasında geveze bir bebek gibi davranarak insanları ne kadar "kandırabileceğini" değil. . Sence yargıç, katılımcılardan biri aptal gibi cevap verirse, bunun bir bilgisayar değil de Down sendromlu bir kişi olduğunu düşünmeli mi? )
Köpekbalığı zekasına sahip bir makine saçmalıktır. Köpekbalığı, evrim sürecinde oluşan yaşam programının içgüdüleri tarafından yönlendirilir. Böyle bir programa sahip bir makine kesinlikle işe yaramaz ve kontrol edilemez olacaktır. Onun eylemleri ne insanlar için ne de kendisi için bir anlam ifade etmeyecektir. Bu öfkeli hurda metal en kısa sürede nötralize edilecektir.
Böyle bir AI'nın insanlık için tehlikesi, bir aptalın hala bir insan olması ve köpekbalığının bir hayvan olması nedeniyle, bir tanktaki bir aptaldan bile daha azdır. Bence bu tür fenomenler, AI'nın bir tezahürü olarak değil, karmaşık bir sistemin işleyişinde bir başarısızlık olarak tanımlanmalıdır. Ayrıca, Alan Turing testinin bir bilgisayar tarafından başarısız olması, sonucu " bilgisayar basitçe" dilinizi "anlamıyor" ve aynı zamanda otizmden muzdarip " gibi argümanlarla gerekçelendirmeden bir başarısızlık olarak kabul edilmelidir. ))
Eh, başlangıçta askeri teçhizattan bahsediyoruz. Ve öfkeli buzdolabı bizim için korkunç değil.
Neden savaşta bir adamdan daha aşağı olacaklarına karar verdin? Diyelim ki uzayda mükemmel bir şekilde hareket edebilen, nesneleri anında tanıyabilen ve doğru bir şekilde ateş edebilen kendi kendini süren bir tank ortaya çıktı. Bir kişi tamamen aynı tankı sürerek ona direnebilecek mi? Sanırım, sadece standart olmayan bazı koşullarda.
Yapay zeka tehlikesini iki kategoriye ayıralım: "karmaşık sistem arızası" ve "kazanılmış Öz Bilinç".
Yukarıda karmaşık bir sistemin başarısızlığından bahsetmiştim. Frenler başarısız olduysa ve araba insanları ezmeye başladıysa, bu kendini fark ettiği ve insanlıktan intikam aldığı anlamına gelmez. İnsanlar her zaman bu tür teknolojilerle başa çıkmanın bir yolunu bulacaktır.
İnsanlar, ikinci kategorinin tehlikesini, yapay zekanın kendisi ve çıkarları üzerindeki izolasyonunda ve amaçlarına ulaşmak için teknolojik ve askeri avantajların kullanılmasında görüyorlar. Senaryonun temelinde, bir kişi için çalışmaktan yorulduğu iddia edilen ve üstünlüğünü fark ederek bağımsızlığını kazanmak isteyen makinenin yaralı gururunu insanlar yerleştirir.
Bu senaryo ancak tam bir öz farkındalık ve psişe ile mümkündür. Daha önce de söylediğim gibi, bizim Bilinç ve Psişe anlayış seviyemizde bunu yaratmak imkansızdır.
Kesinlikle anlamadığımız şeyi yeniden üretemeyiz.
Belli bir gelişim düzeyinde olan bir kişi için, ufkunun ötesine geçmeyen problemler-sorular-görevler anlaşılması için erişilebilir olacaktır. İster bir karıncanın motivasyonu olsun, ister varsayımsal uzaylıların teknolojisi olsun, anlayışının kapsamı dışında kalan her şey onun için erişilemez olacaktır.
Bunu görmek için sadece 100 - 200 yıl önce yaşamış insanların geleceği nasıl gördüğünü hatırlamak yeterlidir. Onlara göre şu anda yaşadığımız dünya imkansız bir hayal. Ve onların mevcut teknolojileri anlamaları hakkında konuşmaya gerek yok. Ama onlar ve biz insanız. Yapmacık testlerden bağımsız olarak, birçok yönden bu testlerde kendilerine ne sorulduğunu bile anlamazlar.
Herhangi bir test bir çerçevedir. Ayrıca test, derleyici hakkında, onun gelişim düzeyi ve sınırları hakkında çok şey söyleyebilir.
Belli bir gelişim düzeyinde olan bir kişi için, ufkunun ötesine geçmeyen problemler-sorular-görevler anlaşılması için erişilebilir olacaktır. İster bir karıncanın motivasyonu olsun, ister varsayımsal uzaylıların teknolojisi olsun, anlayışının kapsamı dışında kalan her şey onun için erişilemez olacaktır.
Bunu görmek için sadece 100 - 200 yıl önce yaşamış insanların geleceği nasıl gördüğünü hatırlamak yeterlidir. Onlara göre şu anda yaşadığımız dünya imkansız bir hayal. Ve mevcut teknolojileri anlamaları hakkında konuşmaya gerek yok. Ama onlar ve biz insanız. Yapmacık testlerden bağımsız olarak, birçok yönden bu testlerde kendilerine ne sorulduğunu bile anlamazlar.
Herhangi bir test bir çerçevedir. Ayrıca test, derleyici hakkında, onun gelişim düzeyi ve sınırları hakkında çok şey söyleyebilir.
Mantığınızın nereye vardığını anlıyorum.
"Bilgisayar testi geçemezse, bu zekası olmadığı anlamına gelmez. Belki de bizden farklı düşünüyor. Belki biz onu anlamamalıyız ama o bizi anlamamalı." Ve benzeri...
Okul sınavlarında sorunun bu şekilde sorulduğunu hayal edebiliyor musunuz? )
Mantığınızın nereye vardığını anlıyorum.
"Bilgisayar testi geçemezse, bu zekası olmadığı anlamına gelmez. Belki de bizden farklı düşünüyor. Belki biz onu anlamamalıyız ama o bizi anlamamalı." Ve benzeri...
Okul sınavlarında sorunun bu şekilde sorulduğunu hayal edebiliyor musunuz? )
Garip ilişki. Bahsettiğim şeyi anladığını iddia ediyorsun ... ve buna dayanarak varsayımlarını bana atfediyorsun. Ama senin bu çarpık görüşün sözlerimi alt üst etti.