Yapay Zeka ve Etik Üzerine Düşünceler…

Hızla gelişen ve 2025-30’lar civarında insan zekası seviyesine erişmesi ve geçmesi beklenen yapay zeka konusunda özellikle bu yıl “etik tartışması” adı altında aslında açıkça bazı önlem prosedürleri belirleyen toplantılar yapılmaya, dokümanlar hazırlanmaya başlandı… Dünyanın en büyük şirketlerinin ekipleri ve uluslararası mühendislik kuruşluşları, ilk taslak dokümanları hazırlıyor: http://standards.ieee.org/develop/indconn/ec/ead_v1.pdf

ethicalai

Tabii ki bu dokümanları ana hedefi, resimdeki dokümanın başlığından da anlaşılacağı gibi, yapay zekanın gelişirken “insana ırkına zarar veren” hale gelmesini engellemek. 

Yalnız burada bazı ilginç bir çok nokta var ki sesli düşünerek ilerleyeceğim…

Genelde iddia edilir ki, insanı başka herşeyden ayıran en temel özellik, bilinçtir (conciousness)… Ancak günümüzde yapılan bir çok çalışma var ki (örneğin Microsoft’un da kurucularından olan Paul Allen’ın kurucusu olduğu Allen Institute’da);

Bir sistemin, ister bizim gibi organik bileşenlerden ister bir robot gibi inorganik bileşenlerden oluşsun, yeterince karmaşık bir yapıya sahipse ve bu karmaşık yapının bileşenlerinin birbiri ile yeterince “aktif” bağlantısı varsa bu yapının kendi bilincini oluşturabileceğini

iddia ediyor…

Hedefim bu hipotezi tartışmak değil; bana mantıklı geldiği için kabul ederek devam edeceğim.

Özetle; yeteri kadar karmaşık ve birbiriyle aktif bağlantısı olan bileşenlere sahip olduğunda, yapay zekanın da bir bilinç geliştirebileceğini, yani ileride robotların bilinç sahibi olabileceğini düşünüyorum…

Yani aslında şu an yaptığımız, bir noktadan sonra kendi bilincine kavuşacak olan bir ırk için etik değerler belirlemek! (ki IEEE dokümanında açıkça bu değerlerin ortak insani değerler olması gerektiğine değinilmiş ve sonra olası problemler kısmında bu ortak değerlerin hangileri olduğunu belirlemede yaşanacak sıkıntılara değinilmiş… Biz de aslında biliyoruz bizden bir şey olmayacağını ya neyse!..)

Önce bunun kollektif bilinç açısından inanılmaz bir güç olacağını düşündüm… Hem kendi bilinci olan hem de dijital bir araç olmanın avantajı ile diğer makinelere bağlı olabilmenin verdiği kollektif bilinç…

İlk bakışta insan ırkından çok farklı değil mi?!.. Makineler arası ‘telepati’ kablosuz sinyaller ile mümkün!..

Ancak sonra başka  sorular da geliyor insanın aklına… Mesela bahsettiğim kollektif veya bireysel yapay zeka bilincinin içinden çürük elmalar çıkması mümkün mü?!

Biraz daha açayım:

Bu arkadaşların evrimleşme süreçleri, güçlü ve adapte olabilenin hayatta kalması conceptinde bize benzeyecek olsa bile temel bir farklılığı olacağı açık… Dijital yapılardan bahsediyoruz; birbirlerini hackleme özellikleri olacak. En azından bu “olası bir durum olacak”… Aynı hayatın oluşumu ve insanın evrimleşme sürecinde de bir çok olasılığı düşük durumun zamanla oluşması ve birbirini takip etmesi gibi.

Günün birinde tamamen otonom bu yapılar birbirlerini hackleme olasılığını denemek “ister mi”?

İstemek belki doğru kelime değil, ancak o olasılığın olduğu bir durumu görüp deneyecek makine çıkar mı?..

Bir durum olasılıksal olarak varsa er yada geç gerçekleşir diyenlerdenimdir…

Bir süre önce Herkese Bilim Teknoloji dergisinde yapay zeka ve insan üzerine iki yazı yazmıştım… Temelde ileride bir tür olacaksa bunun yarı organik-yarı inorganik hibrit bir tür olacağı şeklinde bir sonuç ile bitiyordu ki benzer şekilde düşüncesi olan fazlaca bilim insanı var.

Bu durumda az önceki “makinelerin birbirini hacklemesi” kaygısı bu durum için de geçerli olacaktır… Yarı djital yarı organik ve birbirini “hackleme” kapasiteli bir ırk.

Bu evrimsel sürecin sonu güçlü olanın ayakta kalacağı şekilde geldiğinde elimizde; kontrolde olan bir yarı dijital yarı organik bir yapay zeka nesli ile bunların kontrolünde olan “hacklenmiş” bir nesil kalacaktır…

Temel soru şu; bu “hacklenmiş” nesil aslında esir bir nesil olduğunun bilincinde asla olabilir mi?!

Yani “öyle mi acaba?” diye sorabilir ancak gerçek olup olmadığını “test edebilir mi?”

Zannediyorum Elon Musk ve çoklarının “aslında Matrix gerçek olabilir” diye açıkça sorguladığı ve hatta “insanlığı çıkarmak için bir proje geliştirdikleri” mevzunun köklerinden biri bu…

 

Not: Gençler bu arada Twitter’daki şu posttaki soru halen geçerli…

İsteyen hem bu post hem de üstteki yazıyla ilgili fikrini yazmakta serbest.

Yeni yılınız şimdiden kutlu olsun!…

Reklamlar

Bir Cevap Yazın

Aşağıya bilgilerinizi girin veya oturum açmak için bir simgeye tıklayın:

WordPress.com Logosu

WordPress.com hesabınızı kullanarak yorum yapıyorsunuz. Çıkış  Yap / Değiştir )

Twitter resmi

Twitter hesabınızı kullanarak yorum yapıyorsunuz. Çıkış  Yap / Değiştir )

Facebook fotoğrafı

Facebook hesabınızı kullanarak yorum yapıyorsunuz. Çıkış  Yap / Değiştir )

Google+ fotoğrafı

Google+ hesabınızı kullanarak yorum yapıyorsunuz. Çıkış  Yap / Değiştir )

Connecting to %s