Bana geleceksen en iyisi doğru gelebilirsin ya da küçük, küçük argümanını topla oynayan bir kedi gibi etrafında tokatlayacağım.

İlk önce onu okudum.

İkincisi, AI'da tüm hayatınız boyunca okuyacağınızdan daha fazla akademik makale unuttum.

Üçüncüsü, bir pop felsefesi kitabı yazan alakasız bir otoriteye hitap ediyorsun. Bilim kurgu için büyük bir zevk olarak zevk aldım ve bu konuda. Mantıklı hatalarınla ​​bana gelme.

Dördüncüsü, aslında AI üzerinde çalışan insanları okursanız, AI'nın tanımladığı gibi çalışmadığını ve Bostrom'un insanların bilimsel analiz olmadığını düşündüğü bir anketi yaptığını bilirsiniz. Bu bir şaka. OpenAI’de Musk için çalışan çılgınca adamlar bile süper zihniyeti satın almadılar, hepimiz tartışmayı öldürürler.

AI araştırmacılarının Bostrom hakkında söylediklerini ve süper-dikkatsizlik ne zaman ortaya çıktığı sorusunu şöyle açıklıyor:

https://www.technologyreview.com/s/602410/no-the-experts-dont-think-superintelligent-ai-is-a-threat-to-humanity/

““ Yol, yol, yol 25 yıldan fazla. Yüzyıllar büyük olasılıkla. Ama asla değil. ”

“Milyonlarca yıllık insan beyninin evrimi ile rekabet ediyoruz. İnsanlarla rekabet edebilen ve bazen mükemmel olan tek amaçlı programlar yazabiliriz, ancak dünya düzgün bir şekilde tek sorunlu sorulara bölünmez. ”

“Nick Bostrom profesyonel bir korku satıcısı. Enstitüsünün rolü, insanlığa karşı varoluşsal tehditler bulmaktır. Onları her yerde görüyor. ”

Bataklıktan çıktığımızdan beri insanlar varoluşsal tehditler görüyorlardı. İlk önce gökgürültüsü oldu. O zaman, eğer tarlada dans edemedik ya da doğru zamanda bir keçiyi feda edersek, bize yağan Tanrı Tanrıydı. Sonra imparatora kötü bir şey olacağını söyleyen kaplumbağa kabuğu kırıldı. O zaman sanayileşme oldu. Büyük gösterişli tehditleri severiz. Şimdi süper AI'mız var.

Eğer popüler bir kitap yazmak istiyorsanız, istediğiniz yabancılaştırıcı tehditleri seçin, uzaylılar, meteorlar, Tanrı bize kızıyor ya da süper yetenekli yapay zeka ve milyonlarca gerizekalıya satabilirsiniz. Ancak bu saçmalığı buralarda satamaz ve akademik araştırması gibi konuşmaya gelemezsiniz. Değil. Bu bir kıyamet günü tarikatı. Üstelik sözde bilimsel araştırmalarda ve alana özgü bir dilde nasıl giyindiğiniz önemli değildir, sizi kendinizden daha zeki hissettirir. Cennetin Kapısından bir adım ötede.

Korku temelli yaratıklarız ve korku satmak istiyorsanız daima alıcı bulursunuz. Steven King'in dünyadaki en büyük yazarlardan biri olmasının bir nedeni var.

Beşinci olarak, varolmayan problemi nasıl çözmeyi önerirsin? Mevzuat? Çin'in bu yasa hakkında umursayacağına ve takip etmeye devam etmeyeceğinden eminim. Superintelligent AI'ların da sahneye çıkmaları için umursayacağından eminim.

Altıncı, gerçek olmayan uzak varoluşsal tehditlerden endişe ederken, insanları borç altına sokan, borç alıp almayacağına ve araba kullanmayacağına karar veren gerçek AI'larımız var. Çözümü olmayan fantazi problemleri yerine şimdi başa çıkabileceğimiz gerçek problemleri düşünmenin ve sadece korku böceklerini beslemenin zamanı geldi.