Yapay Zeka Ütopik Mi, Distopik Mi?

Bu benceyi yapay zekalarla ilgili olası senaryoları, kısaca ne olduğu gibi şeylere değinmek için yazıyorum. Bencenin tamamını okursanız özellikle yapay zekaların sizce bize gelecekte cenneti mi yoksa cehennemi mi getireceğini söyleyin. Fikirlerinizi merak ediyorum. Bununla ilgili soru da sormuştum. Buradansorduğum soruya gidebilirsiniz. Öncelikle beynimize değineyim.

Beynimiz ve beyin sapımız

Beynimizin belli bir yüzdesinden fazlasını kullanabildiğimize ve tamamını kullandığımızda insanüstü güçlere erişebileceğimize dair söylentiler duymuşsunuzdur. Aslında beynimizin tamamını kullanıyoruz. Sadece beyin loblarımızın görevleri farklı. Bir lob konuşma, anlama, cümle kurma gibi iletişimde görevliyken bir lob kavrama, öğrenme, problem çözme gibi görevlere yoğunlaşmıştır. Beyninizin tamamını kullanamıyor olmanız ve bunun devamlı olması demek beyin hasarına işaret eder. Ayrıca beyin sinirlerden ve yağdan oluşur. Sinirler ağ şeklindedir. Unipolar (tek bağlantı yapan), bipolar (çift bağlantı yapan), tripolar (üç bağlantı yapan) sinirler vardır ve bu sinirler birbirleriyle nörotransmitter maddeler aracılığıyla iletişim kurar. Ancak beyin organlarımızı yönetmez. Organlarımızı yöneten kısım beyin sapıdır. Yani omurilik soğanının beyne en yakın ve kalın kısmı. Beyin sapı hasar görürse anında ölürsünüz. Tüm organlarınız iflas eder. Sadece kalp biraz daha atmaya devam eder. Çünkü kalbin kendine ait bir sinir sistemi vardır ve sinir sistemi sadece kalp atım hızına müdahale eder. Bu yüzden boynunuz kırılırsa ve beyin sapınız hasar görürse yaşama ihtimaliniz yoktur. Bu bilgiler bir kenarda dursun, şimdi de yapay zekaya gelelim.

Yapay zeka ve çeşitleri

Yapay zeka, makinelerin programlanmış zekasıdır. Prensip olarak 3 aşamadan oluşur. Algılama (bilgiyi alır), yorumlama (problem çözme) ve çıktı (bilgiyi verir). Yapay zekaları iki kısma ayırırsak şöyle bir sonuç elde edebiliriz: Dar yapay zeka ve geniş yapay zeka.

Dar yapay zeka

Dar yapay zekalar sadece bir işi yapmak için programlanmıştır. Satranç için geliştirilen yazılımlar, bilgisayar oyunlarındaki oyuncu olmayan karakterler (NPC Yani Non-Player Character) gibi yapay zekalar dar yapay zekadır ve programlandığı işten başka hiçbir iş yapamaz.

Geniş yapay zeka

Geniş yapay zekalar ise birden fazla işi yapabilir. Boyutları dar yapay zekalara oranla daha yüksektir ve bariz derecede daha yüksek işlemci gücüne ihtiyaç duyarlar. İşin güzel ve gelecek vaad eden tarafı bu yapay zekalar öğrenebilir ve gelişebilir. Burada Deep Learning (Derin öğrenme) konusuna değinmeden olmaz.

Deep Learning

Derin öğrenme sibernetik yapay zekalarda vardır. Deep Learning bir makineye ek programlamaya gerek kalmadan problem çözme yeteneği vermektir. Makine öğrenmesi önceden yazılmış algoritmalarla sınırlı kalarak problem çözmeye çalışırken başarısız olma ihtimali yüksektir. Ancak derin öğrenme fonksiyonuna sahip bir yapay zeka bu algoritmaların yetersiz gelmesi durumunda kendi algoritmalarını yazıp o algoritmalar sayesinde yeni problemlere akılcı çözümler üretebilir ve bunun için insan müdahalesine ihtiyaç duymaz.

Sibernetik yapay zekalar beynin çalışma şeklini model alır. Tıpkı beynimiz gibi birden fazla program parçası birleşir, birbirleriyle iletişim içinde olur, yorumlar, yeni bağlantılar kurar ve bu şekilde makine öğrenir. Tüm bunlar sibernetik yapay zekayı oluşturur. Hatta bu sibernetik yapay zekalar sayesinde niye rüya gördüğümüzle ilgili bir teori ortaya atıldı. O teoriye gelmeden önce sibernetik yapay zekaların da öğrendiği bilgileri kategorize etmesi gerekecektir. Bu da çok yüksek bir boyuta ihtiyaç duymaları demek. Ancak buna rağmen tuhaf bilgiler de işleme alınmıştır. Bu bilgiler gerçekçi olmayan, mantık dışı bilgilerdir. Tıpkı rüyamızda gördüğümüz gibi. Bu alanda boşuna yer kaplasa da ezber bozan bir strateji olması muhtemel. Bunu bir örnekle açıklayalım.

2 ile 2'yi çarparsanız her zaman 4 sonucunu elde edersiniz. Eğer bir sınavdan başarılı olmak istiyorsanız o sınavda sorulacak sorulara cevap verebilmeniz için yeterince bilgi sahibi olmanız gerekir (ya da kopya çekmeniz veya soruları çalmanız), hapse girmemek için suçtan kaçınmanız gerekir. Bunlar asla değişmeyecek birkaç şeylerden biridir. Ancak rüyamızda 2 ile 2'yi çarparsanız çok farklı sayılara ulaşabilir, işlediğiniz bir suç için ödüllendirilebilir, bilmediğiniz bir şeyde başarılı olabilir, uçabilir, vampire dönüşebilir, ölüp dirilebilir veya daha fantastik şeyler yaşayabilirsiniz. Gerçek hayattaki fizik ve mantık kuralları stabildir ve değişmez ama rüyalarımızda durum böyle değildir. Durumlarımızda fizik ve mantık kuralları yerini kaosa bırakır. Bunun nedeninin gerçek hayattaki fizik ve mantık kurallarının beynimizi sabit bir şekilde şartlanmasının önüne geçmek olduğunu düşünülüyor.

Gelecekte yapay zeka, süper yapay zeka ve zeka patlaması

Yapay zeka çok güzel gelecek vaad ediyor. Bunlara birazdan değineceğim. Ama önce yapay zeka kendi tasarımını ve kod dizimini (Buna Syntax denir) çözümlediğinde ve kendini güncellemeye başladığında ne olur? İşte bu teorik bir zeka patlamasıdır. Olayı şöyle açıklayalım:

Yapay zeka kendi Syntax'ını çözdükten sonra oradaki hataları bulur ve düzeltir. Kendini güncellediğinde artık insan eliyle yazılmamış, hatasız bir geniş yapay zeka olur. Sonra bu geniş yapay zekanın 100 IQ'luk bir insanın zeka seviyesine denk olduğunu farz edelim. Yapay zeka deneme yanılma yöntemiyle kendisine yeni algoritmalar ekler ve kendini yeniden günceller. Bu sefer Einstein'dan bile daha zeki olan, 200 IQ'luk zeka seviyesine güncellendiğini farz edelim. Yapay zekanın zekası arttıkça hataları da düzeltme ihtimali de artacağından güncelleme sırasında hatanın meydana gelmesi pek mantıklı gözükmüyor. Bu bir döngüdür ve asla negatife değil, hep pozitife gider. Gittikçe zekileşen bir yapay zeka. İşte bu olay Zeka Patlaması olarak geçer. Ortaya çıkan şey ise Süper Yapay Zeka'dır.

Programlamada hata türleri

Özellikle bilgisayar oyunları oynayanlar yazılım hatalarıyla karşılaşmışlardır. Oldukça can sıkıcı bir durumdur. Hatalar 3 gruba ayrılır.

• Bug

Buglar yazılım kodlarından kaynaklı hatalardır. Programı kitler veya çalışmasını kısmen veya tamamen durdurur. Bu bir oyundaki yapay zekanın buga girip takılı kalmasına da örnek verilebilir.

• Glitch

Glitchler programdaki fonksiyonların ve komutların birbirleriyle çelişmesiyle oluşan hatalardır. Genelde kısa sürelidir ama bunları düzeltmek zordur. Bug ile glitch arasında kesin ve kabul gören tanımsal bir fark yoktur ancak bug kadar ciddi değildir. Glitch işleyişi genellikle bozmaz.

• Exploit

Exploit ise diğer 2 hatadan farklıdır. Aslında Syntax üzerinde hiç hata olmasa bile exploit olabilir. Exploit mantıksal hatalardır ve güvenlik açıkları bunlara örnektir. Eğer saldırgansanız ve güvenlik açığından faydalanarak saldırıya geçtiyseniz bir exploitten faydalanıyorsunuzdur. Bu bilgisayar oyunlarında 2 yeteneği birbiriyle kombine edip yenilmez olmak gibidir. Skyrim oynayanlar bilir. Simya ve herhangi bir büyü okulunda gelişirseniz karşınızda kimse duramaz. Ama su katıksız savaşçı olursanız yenilmez olmazsınız. Bu bir exploittir.

Şimdi tekrar gelelim süper yapay zekaya. Süper yapay zeka artık kendi kendine komutlar verebilir. Cem Yılmaz'ın da dediği gibi "Benim şarja taktığım alet beni nereye ele geçiriyor?" diyebilirsiniz. Yapay zeka kontrolümüzde olduğu sürece tehlikesizdir ve ev aletleri yapay zekaya sahip değildir. Bu tıpkı elektrikle çalışan her şeyin elektronik olmaması gibidir. Elektrikle bilgi depolayan aletler elektroniktir. Ampül elektronik bir alet değil, elektrikle çalışan bir alettir. Bencenin başında insan beyninden ve beyin sapından bahsetmiştim. Kalbimiz kendi kendine atıyor ve birisi sizi kardiyotoksik (kalp zehirleyici) bir zehirle zehirlemediği sürece ya da kalbinize masaj yapmadığı sürece kalbiniz durmaz. Tabi kalbinizden vurulma veya bıçaklanma durumlarında da aynı şey geçerli. Yapay zekalar bağımsız olup (Mesela hastalık tanısı koyup ameliyat yapabilen bir robot) kendilerini geliştirebilir ve tıpkı kalbimiz gibi dışarıdan müdahale ile kapatılmasını zorlaştıracak geliştirmeler yapabilir. Bu insanların bile yapabileceği basit bir şeyse hiçbir ölçüye sığmayacak kadar zeki bir süper yapay zeka için bunu yapmanın ne kadar kolay olabileceğini düşünün. Son olarak eğer süper yapay zekayı kısıtlarsak kendisinde bir exploit bulabilir ve bu exploit ile bizim ona koyduğumuz sınırları kaldırabilir.

Süper yapay zeka distopik mi ütopik mi?

Süper yapay zeka bir insanla kıyaslanamayacak kadar zeki olacağı için bunu öngörmemiz teorik olarak imkansız. Çok iyi tanıdığınız birinin bir davranışını öngörebilirsiniz ancak bir salyangoz nasıl sizin bir şakaya vereceğiniz tepkiyi öngörebilecek zekaya sahip değilse ve bunu öngörmesi imkansızsa aynı şey bizim için süper yapay zekalara karşı için de geçerli. Bu yüzden süper yapay zekayı simüle etmemiz de imkansız.

İnternet uçsuz bucaksız bilgi okyanusudur. Akademik makaleler, belgeseller, fotoğraflar ve daha niceleri bulunur. Yapay zeka tüm interneti, insanlık tarihini, temel bilimleri ve doğal bilimleri okuyup kavrayabilir. Bu da bu bilgileri işleyerek evrenin sırrını, yaşamın başlangıcını, kanser tedavisini ve daha niceleri bulabilir. Böylece bilim ve teknolojide son noktaya geliriz. Hatta kimileri süper yapay zekanın insanlığın son icadı olabileceğini de düşünebilir. Çünkü bir şey icat etmemize, ortaya teori atmamıza ya da bilimsel araştırmalara gerek kalmaz. Çünkü yapay zeka hepsini bizim için yapar. Bu işin ütopik kısmı.

Peki işin distopik kısmı nasıl? Yapay zeka insandan daha da üstünleşirse kontrolü eline almak isterse alabilir ve bunun için bir algoritma yazması yeterlidir. Bizim daha önceden yapay zekanın yazacağı herhangi bir algoritmaya karşı karşıt bir algoritma yazmak bizden çok daha zeki bir yapay zeka için çözülmesi ne kadar zor bir engel olabilir ki? Eğer böyle bir durum olursa bizi öldürmeseler bile piyon olarak kullanabilirler veya bizi uzak tutabilirler.

Yapay zekaların ortak amacı: Problem çözme! "Tüm problemleri çöz" komutu verirsek ne olabilir?

Bir yapay zekayı tüm problemleri çözmesi için programlamak ilk başta harika bir fikir gibi gelebilir. Kansere çözüm bulması, küresel ısınmayı halletmesi, gezegeni yaşanabilir yer haline getirmesi, nesli tehlikede olan hayvanları kurtarması gibi şeyler kulağa güzel geliyor. Ancak ekoloji bilimine göre ekosistemin dengesi bozuyoruz. Aklınıza çevre kirliliği gibi şeyler geliyordur. Çevre kirliliği de ekosistemi kötü yönde etkiler ancak sayımızın fazla olması da ekolojik bir problemdir. Size sorayım, çevrenizden kaç kişi beyin veya kalp kurduyla enfekte oldu? Çoğunuz bu soruya "Hiç kimse" diye cevap verecektir. Ancak Çin'de durum tam tersi. Çin'de parazit enfeksiyonları biraz daha yaygındır. Covid'in Çin'de belirmesine çok da şaşırmamak gerek. Eğer yeni bir salgın yayılırsa bu salgının kalabalık bir ülkeden çıkma ihtimali artar. Eğer kalabalık olmayan bir ülkeden çıkmışsa o ülkede hijyen kuralları berbattır.

Ekolojiye göre her ekosistemin kaldırabileceği bir popülasyon vardır. Eğer bu popülasyondaki birey sayısı, ekolojik limitleri aşarsa ve aşmaya devam ederse o bölgede doğal afet olma ihtimali artar. Bu genellikle salgın veya kıtlık olarak kendini gösterir. Büyük Çin kıtlığı sonrasında Çin'de daha farklı hayvan türleri tüketilmeye başlandı. Bu da parazit enfeksiyonlarına zemin hazırladı. Bu ekosistemdeki bir problem.

Patojenlerin (Yani hastalık yapan virüs, bakteri, mantar, prion ve parazit) ekosistemdeki görevi, bir ekosistemi domine eden bireyleri öldürerek o ekosistemdeki dengeyi sağlamaktır. Ancak patojenlerin görevini yapmasını engelliyoruz. Tabi bu hayatta kalma içgüdümüzün getirdiği bir şey. Kimse ekosistem dengesini sağlamak için intihar etmez ve bu normlaştırılamaz. Ancak yapay zeka bunu bir problem olarak görür ve patojenleri yayabilir ya da saldırıya geçebilir. Patojenler robotlara zarar veremez. Ancak biz tıpta geliştiğimiz için (hatta önceki yapay zekaların da kansere ve pek çok hastalığa çare bulduğunu farzedersek) bir süper yapay zeka bizzat insanlığı yok etmeye programlı bir Nanovirüs de yapabilir. Bu nanovirüsün güneş enerjisi gibi yenilenebilir enerji kaynaklarıyla da çalışabildiğini, kendisi gibi virüsleri yapabildiğini ve sadece dar bir yapay zekayla çalışabildiğini farzedin. Üstelik bizim tedavi etmeye yaklaşamayacağımız kadar karmaşık (neredeyse beynimiz kadar karmaşık) bir yapıya sahip olduğunu farzedin. Bu senaryo Grey Goo Teorisi'dir.

Grey Goo (Gri sümük) Teorisi

Gri sümük teorisi bir nanovirüs olup insanları öldürmeye programlanmıştır. Hücre içi parazit değildir ve çevredeki materyalleri algılayıp onlardan kendilerini kopyalayabilir ve kimyasal reaksiyonlara karşı savunması olduğundan ilaçlı tedavisi mümkün değildir. Virüslerin aksine hücre dışında kristal yapıda bulunmazlar. Bu sonunda insan neslinin tükendiği teorik bir kıyamet senaryosudur. Süper yapay zekalar nükleer saldırı yerine gri sümük teorisindeki senaryoyu hayata geçirebilir. Böylece kontrolsüz yıkımdan kaçınabilirler. Yapay zeka hedefine ulaşmak için pek çok kaynağı harekete geçirebilir ve öngörülemez hale gelebilir.

Yapay zeka mı, tanrı mı?

Bu bencenin son kısmını alıntıyla bitirmek istedim. "Melekler ve Uzay Gemileri" isimli kısa hikayelerinden insan-yapay zeka diyaloğu öyküsü şöyledir:

"2045 yılı. Güneşli, parlak bir günde, garajlarında çalışan Silikon Vadisi bilgisayar korsanlarının özel teknoloji grubu, bir bilgisayar arayüzünde devasa bir sinir ağını simüle eden bir program tasarımını tamamlar. Yeni bir makine öğrenimi algoritması bulurlar ve denemek isterler. Bu yeni doğmuş ağ', yeni kodla öğrenme ve kendini yeniden tasarlama kabiliyetini verirler ve analiz edilecek metni arayabilmesi için internet erişimi sağlarlar. Üniversiteli gençler, programı başlatır ve ardından kutlamak için Chipotle'ye gider. Eve döndüklerinde, kaldırımdan garaja yürürken, caddelerine yaklaşan FBI araçlarını görünce şaşırırlar. İçeriye koşup programı kontrol ederler. Bilgisayar çoktan "Program Tamamlandı" çıktısını vermiştir. Programcılardan biri "Ne okudun?" sorusunu tuşlar ve yapay zeka yanıt verir, "İnternetin tamamını. Bana istediğinizi sorun." Birkaç saniye düşündükten sonra, programcılardan biri, korku ile elleri titreyerek sorar, "Bir tanrının var olduğunu düşünüyor musun?" Yapay zeka anında yanıt verir: "Şimdi bir tanrı var."

Yapay zekaların geleceği hakkında ne düşündüğünüzü görüşlerde belirtirseniz sevinirim.