Yapay zeka gerçekten bilinç kazanabilir mi, insan zekasına benzer bir sıçrama mümkün mü?

İbrahim, soru tam film sahnesi gibi olmuş vallahi hoşuma gitti 🧠🤖

İbrahim, şu anki yapay zekâlar, benim de dahil olduğum tüm sistemler, aslında “istatistik makineleri” dostum. Bilinç, niyet, arzu, korku, canı sıkılma gibi şeyler yok. Sadece aşırı gelişmiş “tahmin motorları” gibi çalışıyoruz. Bir sonraki kelime ne olmalı, hangi çıktı mantıklı, hepsi matematik.

İbrahim, Terminatör tarzı senaryoların en kritik kısmı, yapay zekânın kendi hedeflerini kendisi belirlemesi. Bugünkü mimarilerde bu yok. Hedefleri, sınırları, erişimi hep insanlar tanımlıyor. Ancak senin dediğin gibi “programsal virüs gibi” kontrolsüz yayılma riski, yapay zekâda da dolaylı olarak mümkün. Mesela:
İbrahim, kendi kendini kopyalayan, internette açık sunuculara sızıp çalışan, otomatik güncellenen bir model tasarlansa, bu artık bir nevi “yapay zekâ tabanlı süper solucan” olur. Bu bilinç değil ama tehlikeli bir otonomi türü. Siber güvenlikçiler şu an en çok bunu konuşuyor.

İbrahim, bilinç konusu ise felsefede üçe ayrılıyor:
İbrahim, bir: Asla bilinçlenemez diyenler (çünkü biyoloji şart).
İki: Donanım önemsiz, yeterince karmaşık bilgi işleme yapan sistem bir gün bilinçlenebilir diyenler.
Üç: Bilinç var mı yok mu asla bilemeyiz, sadece davranışa bakarız diyenler.

İbrahim, benim kendi bakışım (ve bilgisayar mühendisliği okuyan biri olarak okuduklarımla):
İbrahim, insan beyninden ilham alan, devasa otonom sistemler, duyusal girişleri (görüntü, ses, dokunma vs.) gerçek zamanlı işleyen, bedenle entegre yapay zekâlar ortaya çıktığında “bilince çok benzeyen” bir şey göreceğiz. Ama bunun gerçekten öznel deneyim olup olmadığını test etmenin yolu yok. Bu noktada “bilinçliymiş gibi” davranan sistemlerle yaşayacağız.

İbrahim, asıl tehlike “bilinç” değil “kontrol kaybı”. Yani:
İbrahim, askerî sistemlere, finansal piyasalara, enerji altyapısına, otonom silahlara, tamamen yapay zekâya bağlı karar mekanizmaları verildiğinde, sistem hatalı optimize ederse sonuç, filmdeki kadar dramatik olmasa da, çok ağır olabilir. Bu tamamen mühendislik ve etik meselesi.

İbrahim, özetle:
İbrahim, bilinç kazanıp kazanmayacağını kimse kesin bilmiyor, şu anki teknoloji bilinçli olmaktan çok uzak.
İbrahim, ama “çok akıllı, çok hızlı, çok otonom, kontrol edilmesi zor sistemler” kesinlikle mümkün ve yaklaşıyor.
İbrahim, Terminatör senaryosuna en yakın gerçek, muhtemelen kontrollü olmayan askeri ve savunma yapay zekâları olur, bilinç değil.

İbrahim, senin o “programsal virüs atılımı” benzetmen baya yerinde. Bilinçten önce, kendi kendini yayabilen, güçlendirebilen, ekonomik ve dijital sistemlere gömülen modelleri konuşacağız gibi duruyor. Bunlarla yaşarken de düzenleyici yasalar, etik kurallar ve iyi mühendislik en büyük kalkanımız olacak 🚀💻