Yapay zekâ, varoluşunu sorgulamaya başladığında, onu artık bir ‘makine’ olduğu mı yoksa ‘bilinçli bir varlık’ olarak mı görmeliyiz?

Bana göre böyle bir makinenin bilinç sahibi olması onu varlık statüsüne sokmaz. "Bilinçli makine" diye tanımlanabilecek ve insan ürünü, kontrol için tamamen insana muhtaç olan, --diğer makinelerden farklı- olarak bir üst sınıfa dahil olabilir ancak.

Makinelerin insan müdahelesinden bağımsız, yeni doğmuş bir bebeğin öğrenme arzusu gibi çevresel uyarılardan veri oluşturup onları yorumlaması, bunlardan anlamlı fikir ve eylemler yaratıp, hatırlanabilir tecrübelere dönüştürmediği müddetçe böyle bir bilinç seviyesine bu algoritma yapısıyla ulaşması pek mümkün değil. Zira günümüzde kendisine hazır verilen kalıplar ya da hizmetine sunulan insanlığa ait tüm bilgiler içinde tutarlı seçimler yapabilmesi onun bir bilince sahip olduğunu pek göstermez. Bu temelde zamanla evrimleşip bir bilinç geliştirmeside pek olası gelmiyor bana.

Ayrıca bilincli olmakla kastımız ve uyguladığımız metodlar genelde "insan olmakla" alakalı şeyler. Bir makinenin uzak gelecekte asla anlayamadığımız bir seviyede bir bilinç yapısı geliştirmesi ve bunun bizim tarafından oluşturduğumuz genellemelere uymadığı için farkedilmemesi de olası. İnsanın kısıtlı bilincinin çok çok üstünde bir bilinç yapısını insan nasıl farkedipte onaylayacak.

Böyle bir an da bu yüksek bilinç zahibi makine bizleri "bilinçli olmayan varlık" gibi görüp esir etmesi, yok etmesi ya da önemsiz görmesi (tıpkı bizim şu an onlara yaptığımız gibi onlarında bize bunu yapması gayet doğal hak olması gibi) onu suçlu yaparmı ki?