Yapay zeka alanındaki çalışmalarıyla 2024 Nobel Fizik Ödülü’ne layık görülen Geoffrey Hinton, yapay zekanın geleceğine dair endişe verici uyarılarda bulundu. ABD Kongresi üyelerine sunum yapan Hinton, teknolojinin gelişim hızının insanlığın güvenlik önlemlerini aşabileceği konusunda uyardı.

Senatör Bernie Sanders tarafından düzenlenen kapalı oturumda konuşan Hinton, süper zeka hedeflerine ulaşma sürelerinin tahminlerden çok daha hızlı kısaldığına dikkat çekti. Daha önce on yıllar süreceği öngörülen ilerlemelerin artık birkaç yıl içinde gerçekleşebileceği ifade ediliyor.

Süper Zeka ve Kontrol Sorunu

Hinton, modern yapay zeka sistemlerinin kendi kendini geliştirebilme yeteneğine sahip olduğunu belirtti. Bu yeteneğin, sistemlerin insanın kontrolü dışına çıkma ihtimalini artırdığını vurgulayan bilim insanı, güvenlik odaklı yaklaşımların geliştirilmesinin hayati önem taşıdığını savundu.

Sistemlerin insanlardan daha yüksek bilişsel kapasiteye ulaşması durumunda, mevcut denetim mekanizmalarının yetersiz kalabileceği düşünülüyor. Uzmanlar, teknolojinin etik ve güvenlik sınırlarının net bir şekilde çizilmesi gerektiğini ifade ediyor.

Kongrede Yeni Düzenleme Çağrısı

ABD Kongresi’ndeki oturuma katılan Max Tegmark ve Ajeya Cotra gibi yapay zeka güvenliği uzmanları da benzer görüşleri paylaştı. Senatör Sanders, yapay zekanın sunduğu risklerin kapsamlı bir şekilde ele alınması gerektiğinin altını çizerek daha sıkı denetim mekanizmalarının şart olduğunu belirtti.

Ülkede yapay zeka sistemlerine yönelik yasal düzenleme tartışmaları sürerken, sektör temsilcileri ile politika yapıcılar arasında denge arayışı devam ediyor. Uzmanlar, güvenlik önlemlerinin yazılım geliştirme hızıyla eş zamanlı ilerlemesi gerektiği konusunda hemfikir.

Hinton’ın uyarıları, teknolojinin gelişim hızı ile bu hıza yetişmeye çalışan küresel güvenlik protokolleri arasındaki rekabeti gözler önüne seriyor. Gelecekte, yapay zeka sistemlerinin insanlığa karşı bir risk oluşturmaması için daha şeffaf ve denetlenebilir algoritmaların kullanılması bekleniyor.

Sonuç olarak, yapay zeka dünyasında atılacak her adımın küresel ölçekte güvenlik risklerini minimize etmesi hedefleniyor. Bilim dünyası, bu karmaşık teknolojinin insanlığın kontrolü altında kalması adına acil küresel iş birliklerine ihtiyaç duyulduğunu vurguluyor.