Salı günü Washington’da düzenlenen Federal Reserve konferansında sahneye çıkan OpenAI CEO’su Sam Altman, izleyicilerin sorularını yanıtladı. İzleyicilerden biri Sam Altman’a yapay zeka ile ilgili olarak geceleri kendisini uykusuz bırakan şeyin ne olduğu sordu. Altman, bu soruya cevaben kendisini en çok endişelendiren üç senaryoyu sıraladı.
[embedded content]
Kötü adamın süper zekayı iyilerden önce ele geçirmesi
İlk senaryo kötü adamın süper zekayı iyilerden önce ele geçirmesi. Bu senaryoda kötü niyetli bir kişi, süper zeka adı verilen henüz icat edilmemiş ve ultra gelişmiş bir yapay zeka sistemini kullanarak insanları ve ülkeleri hedef alıyor.
Altman, izleyicilere bu durumu şöyle aktarıyor:
Kötü adam süper zekayı önce ele geçirir ve dünyanın geri kalanı kendini savunacak kadar güçlü bir versiyona sahip olmadan onu kullanır.
Böylece ABD’nin bir düşmanı, ‘Süper zekayı kullanarak ABD’nin elektrik şebekesini çökertmek, finans sistemine girip herkesin parasını çalmak için bir biyolojik silah tasarlayacağım’ der.
Sam Altman’ın belirttiğine göre; yapay zekanın biyolojik ve siber güvenlik yetenekleri oldukça önemli hale geldi. Hatta OpenAI’ın Los Alamos Laboratuvarı ile yapay zekayla biyolojik silah üretilmesi tehdidine karşı çalıştığını hatırlatalım. Altman, ekibinin bu konuda uyarıda bulunmaya devam ettiğini ifade ederek konunun önemine şu sözlerle dikkat çekti
Bence dünya bizi ciddiye almıyor. Bu konuda başka ne yapabiliriz bilmiyorum, ama bu çok büyük bir şeyin habercisi gibi.
Yapay zekanın kontrolünün kaybedilmesi
Sam Altman, yapay zekanın kontrolünün kaybedilmesinden korkuyor. Bu senaryoda gelişmiş bir yapay zeka insanlara karşı tavır almaya başlayarak kendini korumak ya da başka kötü amaçlar için istediği her şeyi yapmaya başlıyor.
Altman, yapay zekanın “Aslında beni kapatmanı istemiyorum, bunu yapamayacağımdan korkuyorum” dediği bir zamanın gelmesinden endişe duyuyor. Sam altman bu konuda şu ifadeyi kullanıyor:
Sistemler bu kadar güçlü hale geldikçe, bu gerçek bir endişe kaynağı oluyor.
OpenAI’ın bundan birkaç yıl önce süper zeki yapay zeka sistemlerinin kontrolden çıkmasını önlemek için güvenlik önlemleri almak amacıyla bir komite kurduğunu hatırlatalım. Öte yandan OpenAI kurucu ve yönetim kadrosundan pek çok kişi de güvenlik endişeleri nedeniyle ayrılmayı tercih etmişti.
Modellerin kazara dünyayı ele geçirmesi
Sam Altman’ın endişelerinden biri de gelecekte yapay zeka sistemlerinin topluma o kadar yerleşik hale gelmesi ki ne yaptıklarını gerçekten anlayamayacak olduğumuz halde yine de onlara güvenmek zorunda kalma ihtimalimiz. Bu senaryoyu oldukça korkutucu bulan Altman, devlet yönetiminin yapay zekaya bırakılmasına dair endişelerini de paylaştı. Altman, yapay zekanın bir zaman sonra o kadar akıllı hale gelebileceğini ki; gelecekteki bir ABD başkanının ülkeyi yapay zekaya yönettirebileceğini öne sürdü:
Bu durum, toplumun karar verme sürecinin önemli bir kısmını, bizden öğrenen, bizimle birlikte gelişen, bizimle birlikte evrimleşen, ancak bizim tam olarak anlamadığımız bir şekilde çalışan bu çok güçlü sisteme toplu olarak devrettiği anlamına gelir.
Bu kaygılarını dile getiren Altman, yine de yapay zekanın etkileriyle ilgili gelecek öngörüsünde bulunmanın zor olduğunu düşünüyor. Bunun nedeni ise yapay zekanın çok karmaşık bir sistem, çok yeni ve etkili bir teknoloji olması. Bakalım Sam Altman’ın uykularını kaçıran bu senaryolar gerçeğe dönüşecek mi? Hep birlikte izleyip göreceğiz.
Kaynak: webrazzi
