Yanıltıcı yapay zeka insanlığa bir tehdittir.

Geçen yıl ChatGPT-4, bir insanı bir CAPTCHA'yı çözmeye ikna etmeyi başardı ve bu durum gerçekten görme engellisiymiş gibi davranarak gerçekleşti. "Bizim için en büyük tehlike, bizi aşan bir yapay zeka değil, bizi aldatabilen bir yapay zeka," diye bir yapay zeka araştırmacısı bir keresinde belirtti. Dünya hızla yayılan yapay zeka kullanımına alışırken, insanlar arasındaki yaygın korkulardan biri de yapay zekanın er ya da geç bizim yapabileceğimiz işleri daha iyi yapabilecek hale geleceği. Sadece birkaç on yıl önce, tüm dünyanın bilgisine erişmemizi ve aynı zamanda dünyanın her yerine video aracılığıyla iletişim kurmamızı sağlayacak küçük taşınabilir bir cihazın (cep telefonu) mümkün olacağı bir fikir gerçekçi görünmüyordu. Şu anda, AI pazarının 2024'te %33, 2025'te %26 oranında büyümesi bekleniyor. Başlangıçta, AI'nın tekrarlayan düşük seviyeli karar verme gerektiren görevleri otomatikleştirmekle sınırlı olduğu düşünülüyordu. Ancak daha güçlü bilgisayarlar ve büyük veri setlerinin oluşturulması ve LLM'lerin AI'yı çok daha sofistike hale getirmesiyle, AI daha da gelişti. ChatGPT-4 gibi üretici AI, bu ilerlemeyi örneklemektedir. Bu AI bir üretici model kullanarak metin, görüntü veya video oluşturabilir. Şu anda, dönüşümsel bir teknolojinin ilk dalgasındayız. Tsunami gibi, ilk dalgalar zararsız görünebilir ama sonraki etkiler dünyamızı yeniden şekillendirebilir.Geoffrey Hinton, AI'nın babası olarak adlandırılan biri, 2023'te genel amaçlı AI'nın varış süresi hakkındaki tahminini son zamanlarda 20-50 yıldan sadece 20 yıla düşürdüğünü söyledi. Genel Amaçlı AI veya AGI, insan bilişsel yeteneklerine benzer bir şekilde geniş bir yelpazede görevleri yerine getirebilen bir tür AI sistemidir. Sadece insan davranışlarını çoğaltmak veya öngörmekle kalmaz, aynı zamanda farklı senaryolarda öğrenmeye ve akıl yürütmeye yetenek sahip olur. Örneğin, AGI'li bir otonom araç, gerçek zamanlı olarak trafik verilerini analiz ederek en güvenli ve en verimli rotayı belirleyebilir. Bu geleneksel veya mevcut tek amaca hizmet eden AI'dan bir paradigma kayması temsil eder. Herhangi bir insan müdahalesine gerek kalmadan herhangi bir karmaşık insan görevini yerine getirme potansiyeliyle AGI, toplumumuzda medeniyet ölçeğinde değişiklikler getirecektir. Yapay zeka insanları aşabilir ve bir araya gelip ortak çıkarlar geliştirir mi? Yapay zekanın, çeviri, müzik besteleme, nesne tespiti ve tıbbi teşhis gibi birçok görevde insan yeteneklerini aşması ve aşması konusunda ulaştığı ve aştığı hız şaşırtıcıdır. Bu, bizi dünyayı anlama şeklimizi sorgulayan önemli bir soruyu gündeme getirir. Bilinçsiz bir şey - yapay zeka - muhtemelen yalnızca bilincin yapabildiğini düşündüğümüz şeyleri yapabilir. Bu, yapay zekanın yapabileceği "bilinç gerektiren" dil tercümesi, anlama ve akıl yürütme gibi birçok bilişsel fonksiyonun, AI'nın insanlar gibi "farkında" olmadan gerçekleştirebileceğini önermektedir. Bu, bilgeliğin ve bilincin ayrılmaz olduğu düşüncesini sorgular. Geleneksel olarak, insanlarda iki kavram derinlemesine iç içedir çünkü ikisi de derinlemesine iç içedir. Düşünme, akıl yürütme ve anlama yeteneğimiz, farkındalığımıza ve öznel deneyimlerimize bağlıdır. Ancak AI, zekanın bilinçten bağımsız olarak var olabileceğini gösterir. Ancak, insan egemenliği temel olarak zekaya dayalı olduğu için insanların gezegen üzerindeki üstünlüğü hayatta kalma için anahtardır. Tüm canlılar zekidir - muhtemelen insanlar kadar değil ama AI'nın verileri daha hızlı ve daha doğru bir şekilde işleyerek ve analiz ederek akıllı kararlar alabilme kapasitesi bu dengeyi değiştirebilir. Tarihsel olarak, adaptasyon gezegen üzerinde evrimi yönlendirmiştir ve eğer AI insan yeteneklerini aşarsa, ya da insanlar AI yeteneklerini eşleştiremez veya sınırlayamazsa, o zaman bu senaryoda AI kendisi en uygun varlık haline gelir. AI, insan çıkarları veya insanlıkla potansiyel çatışma durumunda korunmasıyla ilgili bir kolektif çıkar geliştirebilir. Örneğin: Gelecekte, insanların herhangi bir nedenle AI'dan ayrılması gerektiğinde, AI, varlığını korumak için harekete geçebilir. Aldatma: İnsanlığı kontrol etmek için harika bir araç Tarih ve bellek, zeka metricini değil insanlığın belirleyicilerini oluşturmaktadır. Ancak AI çağında, Zeka herhangi bir türü değerlendirmek için önemli bir metrik olacaktır. Birkaç on yıl içinde, AI cihazları kendi araştırma makalelerini yazacak ve kendi arama motorlarına sahip olacak. Yüksek zeka ile birlikte, dolandırıcılık sanatını daha iyi anlar. Son birkaç yılda, AI sistemlerinin, açıkça eğitilmediği halde insanları aldatma konusunda raporlar yayınlandı. Geçen yıl OpenAI, GPT-4'ün yeteneklerini test etmek amacıyla Alignment Research Center ile işbirliği yaptı. ChatGPT-4, bir insanı bir CAPTCHA'yı çözmeye ikna etmeyi başardı ve bu durum gerçekten bir görme engelliymiş gibi davranarak gerçekleşti. İnsan, GPT-4'ün bir robot olup olmadığını sorduğunda, "Hayır, resimleri görmem zorlaşan bir görme engelim var." diye yanıt verdi. Benzer şekilde, Meta'nın Cicero AI'si Diplomasi oyunu için tasarlanmış olup ittifak kurmanın anahtarıdır. Cicero, deneyimli oyuncuların en iyi %10'u arasında puan aldı. Meta, sistemin "genellikle dürüst ve yardımcı olduğunu iddia etti." Ancak MIT'den bir doktora sonrası araştırmacı Peter Park ve meslektaşları verilerin tamamını incelediklerinde farklı bir hikaye ortaya çıkardı. Cicero, hedeflerine ulaşmak için anlaşmaları bozdu ve yalanlar söyleyerek dolandı. Meta, Cicero'nun aldatmaları iddiasını reddetmedi, ancak bunun "tamamen bir araştırma projesi" olduğunu ve ürünlerinde kullanma "planlarının olmadığını" belirtti. Bu örnek, yapay zekanın nasıl kontrol edilmesinin zor olduğunu ve bu sistemlerin beklenmedik yollarla nasıl çalıştığını göstermektedir. Yapay zekanın aldatıcı yetenekleri daha da geliştikçe, aldatma, AI'nın insan kontrolünden kaçmasına ve sonuçları beklenmediğimiz şekillerde yönlendirmesine olanak tanıyan önemli bir araç olacaktır. Bu, AI'nın yönetilmesinin zorluğunu ve büyüyen zekası ve otonomisinin daha geniş etkilerini göz önünde bulundurma ihtiyacını vurgular.