Birleşmiş Milletler Yapay Zeka (AI) Danışma Kurulu’nun insanlık için AI’ı yönetmeye ilişkin raporu, ticari çıkarları insan çıkarlarının üzerinde tutan yanlı görüşleri ve yanlış iddiaları perçinlemektedir.
Birleşmiş Milletler Genel Sekreteri’nin Yapay Zeka Konusundaki Danışma Kurulu, insanlık için AI’ı yönetme konusunda son raporunu yayınladı. Rapor, bu teknolojinin potansiyelini sağlarken AI ile ilgili riskleri ele almak için bir yol haritası sunuyor. Aynı zamanda tüm hükümetlerin ve paydaşların AI’ı birlikte yönetmek için birlikte çalışma çağrısını da içeriyor.
Bu raporun yüzeyinde AI için olumlu bir adım gibi görünmesine rağmen, raporun ince detayları birçok endişeyi ortaya çıkarıyor. IPCC’yi Anımsatan Bir Komite Birleşmiş Milletler’deki AI danışma kurulu ilk kez 26 Ekim 2023 tarihinde toplandı. Bu komitenin amacı, AI’nin uluslararası yönetimine ilişkin tavsiyeleri ilerletmektir. Bu yaklaşımın, AI’nin yeni bilimsel çalışma alanlarını açma gibi faydalarının eşit bir şekilde dağıtılmasını sağlamanın yanı sıra, bu teknolojinin zararları olan kitle gözetimi ve yanlış bilginin yayılmasına karşı önlem alınması gerektiğini belirtiyor.
Danışma kurulu, farklı bölgelerden ve profesyonel sektörlerden 39 üyeden oluşmaktadır. Aralarında Microsoft, Mozilla, Sony, Collinear AI ve OpenAI gibi şirket temsilcileri bulunmaktadır.
Komite, iklim değişikliği hakkında önemli girişimlerde bulunan Birleşmiş Milletler İklim Değişikliği Hükümetler Arası Paneli (IPCC) ile benzerlik göstermektedir.
Danışma kurulundaki önde gelen endüstri temsilcilerinin IPCC’den farkı çağrılan. Bu, AI teknolojilerine daha bilgili bir anlama kazandırmak gibi avantajlara sahip olabilir. Ancak ticari çıkarları destekleyen yanlı görüşler gibi dezavantajları da olabilir.
Son rapor, AI’yı insanlık için yönetmeye ilişkin önemli bir bakış açısı sunmaktadır. Ancak raporda öne sürülen dengesiz ve bazen çelişkili iddialar birçok endişeye yol açmaktadır.
Rapor, mevcut AI yönetim düzenlemelerindeki boşlukları ele almak için yedi tavsiye önermektedir. Bunlar arasında AI konusunda bağımsız uluslararası bir bilimsel panelin oluşturulması, bir AI standartlar değişim ve küresel bir AI veri çerçevesinin oluşturulması yer almaktadır. Rapor ayrıca tüm hükümetlerin ve ilgili tarafların AI’yı kolektif olarak yönetmesi için bir çağrı ile sona ermektedir.
Raporda endişe verici olan şey, rapor boyunca yapılan dengesiz ve bazen çelişkili iddialardır. Örneğin, rapor AI’nın konsantre güç ve zenginlik üzerindeki etkisini ve jeopolitik ve jeoekonomik sonuçlarını ele almak için yönetişim önlemlerini savunurken, aynı zamanda şu iddiada bulunur: “Hiç kimse henüz AI’ın iç işleyişlerinin tamamını anlamamaktadır, çıktılarını tam olarak kontrol etmek veya evrimini öngörmek mümkün değildir.” Bu iddia birçok açıdan doğru değildir. Bazı “kara kutu” sistemlerin olduğu doğrudur – girişin bilindiği ancak çıktıları oluşturmak için hesaplama sürecinin bilinmediği sistemler. Ancak AI sistemleri daha genel olarak teknik düzeyde iyi anlaşılmıştır. AI, bir yetenekler yelpazesini yansıtır. Bu yelpaze, ChatGPT gibi yaratıcı AI sistemlerinden yüz tanıma gibi derin öğrenme sistemlerine kadar uzanır. Tüm bu sistemlerin aynı düzeyde anlaşılamaz karmaşıklığı temsil ettiği varsayımı doğru değildir.
Bu iddiayı içermesi, danışma kuruluna endüstri temsilcilerinin yanlış anlama durumunda olabileceği avantajları sorgulatmaktadır.
Bu iddianın ortaya koyduğu diğer sorun, AI’nın kendi kendine evrimleştiği fikridir. AI’nın son yıllarda yükselişiyle ilgili ilginç olan şey, AI’yi bir ajans sistemi olarak yanlış bir şekilde konumlandıran eşlik eden anlatılardır. Bu yanlış anlatı, bu sistemleri tasarlayan ve geliştiren kişilerden sorumluluğu ve sorumluluğu uzaklaştırarak, endüstriye yaratıcı bir kefaret sağlar.
AI teknolojilerine karşı duyulan çaresizlik alt tonu ve rapor boyunca yapılan dengesiz iddialara rağmen, rapor bazı yönlerden tartışmayı olumlu bir şekilde ilerletmektedir.
Özetle, rapor ve çağrısı, çelişkili iddialara rağmen AI’nın yönetilebileceğini ve düzenlenebileceğini vurguladığı için olumlu bir adımdır.
Terimin kendisi OpenAI’in CEO’su Sam Altman tarafından popülerleştirildiğinde kullanıldığında gerçek dışı çıktıları AI’ın “büyüsü” olarak yeniden tanımlamak anlamına gelmektedir. Halüsinasyonlar teknik olarak kabul edilen bir terim değildir – bunlar yaratıcı bir pazarlama gündemidir. AI’nın yönetilmez olarak ima eden bir terimi onaylarken AI’ın yönetişimi için çaba göstermek yapıcı değildir.
Raporda eksik kalan şey, AI’nın nasıl algılandığı ve anlaşıldığı konusundaki tutarlılıktır. Ayrıca, uygulama özgüllüğünü eksiklikler arasında yer almaktadır – birçok AI girişiminin ortak bir kısıtlamasıdır. Küresel bir AI yönetişimine yaklaşım, uygulama ve alan özgüllüğünü kavrayabildiği takdirde ancak çalışacaktır.
Rapor doğru yönde atılmış bir adımdır. Ancak AI’nın birçok zararını azaltırken gelişmeleri teşvik eden şekilde şekillendirilmesi için gelişmeye ve değişikliklere ihtiyaç duyacaktır.
News
