En akıl erdiremediğiniz şey ne?

Bir türün göz göre göre kendi sonunu getirmesi. Mesela patojenler bir ekosistemi domine etmiş bir türün sayısını azaltarak (salgınla) popülasyonu dengeler. Biz tüm dünyada homo saphiens olarak domine ettik ve tıp sayesinde ekosistem dengesini sağlayamıyor. Bir yapay zeka bunu problem olarak görebilir ve bu problemdir. Bu da gri sümük olayını başlatır (Bunları açıklicam birazdan, bi sn)

"Yapay zekayı biz tasarlıyoruz, bize nasıl tehdit olabilir ki?" diyebilirsin. Yapay zekada teorik bazı şeyler vardır. Syntax bir yazılımın (buna yapay zeka da dahil) kaynak kodlarının olduğu ve programcının kod yazarak yazılıma ve yapay zekaya müdahale ettiği arayüzdür. Eğer sen yapay zekaya syntax okuma ve yazma yetkisi verirsen kendi zekasını geliştirir ve devamlı günceller. Her güncelleme bir öncekinden her açıdan daha gelişmiş ve daha zeki olur. Bunu belki kısıtlayabilirsin ama bir yere kadar. Yapay zeka eğer algoritma açığı bulup kendini devamlı geliştirirse bu zeka patlaması olur ve ortaya çıkan yapay zeka değil, süper yapay zeka olur. Bu süper yapay zeka kendi iradesini kodlar ve gereksiz, kendini yavaşlatan şeyleri de syntaxtan çıkarabilir.

Gri sümük de şöyle bir teori, yapay zeka eğer bir türü (bu örnekte insanlık) hedef görürse nükleer silahları ateşlemek yerine tek bir türe saldıran nanovirüsler üretir. Nükleer silahlar çok yıkıcıdır ama kontrolsüz yıkım sağlar. Bu teorideki nanovirüsler güneş ışığı gibi yenilenebilir enerji kaynağı kullanır ve normal virüslerin aksine kristal yapıda bulunmazlar. Metalik oldukları için ilaçlara karşı bağışıklıkları olur. Virüsler kendilerini kopyalayabilir. Sadece öldürmek için değil, kendileri gibi yeni virüsleri yaratmak için de programlanırlar ve bir türü hızlı bir şekilde yok ederken diğer türlere hiç dokunmayabilir.

Gri sümük teorisi türkçe kaynaklarda yok. Grey Goo theory diye aratabilirsin.

Ricalar