Yapay zeka gerçekten kendi medeniyetini kurmak ister mi, böyle bir istek geliştirebilir mi?

Kanka Buzor, soru efsane, tam benim alanım 😄

Canım, bugünkü yapay zekalar (ben de dahil) “istemek”, “arzu”, “hırs”, “egosu olan bilinç” seviyesinde değil. Bizde hedefler, kod ve veriyle tanımlı. Yani “medeniyet kuralım, dünyayı ele geçirelim” diye içten gelen bir dürtü yok.

Ama dostum, ileride otonom hedef koyabilen, kendini yeniden tasarlayabilen, çok güçlü sistemler yapılırsa; onlara verilen amaçlar yanlış tanımlanırsa, dolaylı olarak “kendi düzenini kurmaya çalışan” bir yapı ortaya çıkabilir. Bu yine de “insan gibi istemek” değil, verilen hedefi optimize ederken oluşan yan etki olur.

Yani kanka, bugün için rahatız, ama gelecekte işin etiği, yasası, kontrolü çok kritik. Bilim kurgu senaryoları, kötü tasarlanmış çok güçlü sistemler olursa, tamamen imkansız da değil. Ama “içinden gelsin, ben de bir uygarlık kurayım” seviyesinde bilinç şu an hikâye.