Yapay zekanın kötüye kullanımı alarm veriyor: Olay sayısı 26 kat arttı

Yapay zeka gelişimi ve sektörlere etkisi konusunda oldukça kapsamlı çıkarımlara sahip olan AI Index Raporu'nun yedinci sayısı sektör ile buluşturuldu. Stanford Üniversitesi Yapay Zeka Laboratuvarı tarafından gerçekleştirilen raporun 2024 endeksinde yapay zekanın teknik ilerlemeleri, teknolojiye olan kamu algıları ve gelişiminin çevrelediği jeopolitik dinamikler gibi temel eğilimleri daha geniş bir şekilde kapsayacak şekilde genişletilmiş. 9 farklı ana bölümden oluşan bu kapsamlı raporda, Ar-Ge süreçlerinden, ekonomiye, eğitimden, siber güvenliğe, bilim ve tıptan politika ve yönetişime kadar birçok alanda yapay zekanın etkilerini gözler önüne seriyor. Öne çıkan en dikkat çekici veriler ise yapay zekanın kötüye kullanılması yönünde oldu. İndekste yapay zeka olayları ve tartışmalarının sayısı 2012'den bu yana 26 kat arttığı vurgulanıyor

Cem Özenen

cozenen@haberturk.com

Giriş: 19.04.2024 - 07:52 Güncelleme: 19.04.2024 - 07:52

ABONE OL

ABONE OL

Dünyanın gündemindeki teknolojik gelişim yapay zeka üzerine yatırımlar ve tartışmalar sürerken araştırmalarla hem insanlar hem iş dünyası hem de sektörler üzerindeki etkileri de gözelmlenmeye devam ediyor. Stanford Üniversitesi Yapay Zeka Laboratuvarı tarafından gerçekleştirilen 2024 yapay zeka Index Raporu da bu alanda birçok veriye ışık tutan sonuçlar ortaya çıkarttı.

Bugüne kadarki en kapsamlı sürüm olarak gösterilen 2024 Endeksi yapay zekanın (AI) toplum üzerindeki etkisinin hiç olmadığı kadar belirgin olduğu önemli bir anda geliyor. Bu yıl, kapsamımızı yapay zekanın teknik ilerlemeleri, teknolojiye olan kamu algıları ve gelişiminin çevrelediği jeopolitik dinamikler gibi temel eğilimleri daha geniş bir şekilde kapsayacak şekilde genişlettik. Daha öncekinden daha fazla orijinal veri içeren bu sürüm, AI eğitim maliyetleri üzerine yeni tahminler, sorumlu AI manzarasının detaylı analizleri ve bilim ve tıpta AI’nin etkisine adanmış tamamen yeni bir bölüm sunuyor.

REKLAM

Farklı başlıklar altında yapay zekanın gelişimi ve etkilerini değerlendiren araştırmanın öne çıkan önemli sonuçlarından bir tanesi ‘AI, insanın yerini alabilir mi?’ sorusuna da yanıt veriyor. Araştırmadan çıkan bilgilere göre Yapay zeka bazı görevlerde insanları geçiyor, ancak hepsinde değil. Yapay zeka, görüntü sınıflandırma, görsel akıl yürütme ve İngilizce anlama gibi bazı alanlarda insan performansını aşmıştır. Ancak, yarışma düzeyi matematik, görsel sağduyu akıl yürütme ve planlama gibi daha karmaşık görevlerde geride kaldığı gözlemleniyor.

Yapay zeka teknolojisinin hızla gelişimi, hayatımızın birçok alanında devrim yaratırken, aynı zamanda etik olmayan kullanımlar konusunda da endişeleri artırıyor. AIAAIC (Yapay Zeka Olayları ve Etik Olmayan Kullanım İzleme Merkezi) tarafından yayınlanan son rapora göre, yapay zekanın kötüye kullanımı ile ilgili olayların sayısı son on yılda 26 kat artış gösterdi.

Bu artış, özellikle kişisel verilerin korunması, sahte içerik üretimi ve otomatik karar alma sistemlerinin yanlış uygulanması gibi konularda kaygıları beraberinde getiriyor. Uzmanlar, yapay zekanın potansiyelini tam olarak gerçekleştirebilmenin, bu teknolojinin sorumlu bir şekilde kullanılmasına bağlı olduğunu vurguluyorlar.

Raporda, yapay zekanın kötüye kullanımının, toplumsal güveni sarsabileceği ve teknolojik ilerlemenin faydalarını gölgeleyebileceği konusunda uyarılarda bulunuluyor. Ayrıca, yapay zekanın etik kullanımını sağlamak için uluslararası düzeyde standartlar ve düzenlemelerin geliştirilmesinin önemi üzerinde duruluyor.

Yapay zeka topluluğu, bu tür olayların önüne geçmek için daha fazla şeffaflık, denetim ve eğitim çağrısında bulunuyor. AIAAIC’nin veritabanı, bu tür etik olmayan kullanımları izlemek ve farkındalığı artırmak için kritik bir kaynak olarak görülüyor.

Yapay zekanın kötüye kullanımı ile ilgili olayların artışı, hem teknoloji geliştiricileri hem de politika yapıcıları için ciddi bir uyarı işareti olarak kabul ediliyor. Bu durum, yapay zekanın etik ve sorumlu kullanımını sağlamak için toplumun her kesiminin iş birliği yapmasının gerekliliğini bir kez daha ön plana çıkarıyor.

Yapay zekanın eğitim üzerindeki etkisi: Rapor, K-12 seviyesinde yapay zeka eğitimi üzerine yeni analizler sunuyor ve yapay zekanın eğitim sistemlerine entegrasyonunun nasıl geliştiğini inceliyor.
Kamuoyu algıları: Yapay zekanın kamuoyu algıları ve teknolojinin toplum üzerindeki etkileri üzerine trendler raporda yer alıyor. Bu, yapay zekanın toplumsal kabulü ve güvenilirliği hakkında önemli bilgiler sağlıyor.
Jeopolitik dinamikler: Rapor, yapay zekanın gelişiminin jeopolitik dinamikleri üzerindeki etkisini daha geniş bir perspektiften ele alıyor. Bu, farklı ülkelerin yapay zeka stratejileri ve politikaları hakkında derinlemesine bilgi sunuyor.
Yapay zeka yasaları: Rapor, 2022’de 25 ülkeden takip edilen global yapay zeka yasalarını, 2023’te 127 ülkeye genişlettiğini belirtiyor. Bu, yapay zekanın düzenlenmesi ve yönetilmesi konusunda küresel bir bakış açısı sağlıyor.
Yapay zekanın bilim ve tıpta dönüştürücü etkisi: Rapor, yapay zekanın bilim ve tıpta nasıl dönüştürücü bir etki yarattığına dair tamamen yeni bir bölüm sunuyor. Bu, yapay zekanın araştırma ve geliştirme süreçlerini nasıl değiştirdiğini ve tıbbi uygulamalarda nasıl yenilikler getirdiğini gösteriyor
Yapay zeka ve istihdam: Rapor, yapay zekanın iş gücü piyasaları üzerindeki etkisini analiz ediyor ve hangi sektörlerin en çok etkilendiğini, hangi yeni mesleklerin ortaya çıktığını inceliyor.
Yapay zeka eğitimi ve çeşitlilik: Yapay zeka eğitiminde çeşitliliğin önemi vurgulanıyor ve farklı demografik gruplardan öğrencilerin bu alana nasıl dahil edilebileceği üzerine stratejiler sunuluyor.
Yapay zeka ve etik: Yapay zekanın etik kullanımı üzerine tartışmalar raporda yer alıyor. Bu, algoritmaların adil ve şeffaf olması, önyargıları azaltma ve veri gizliliğini koruma gibi konuları içeriyor.
Yapay zeka finansmanı: Yapay zeka araştırma ve geliştirme projelerine yapılan yatırımların analizi, hangi alanlara ne kadar finansman sağlandığı ve bu finansmanın kaynakları üzerine bilgiler içeriyor.
Yapay zeka ve sağlık hizmetleri: Yapay zekanın sağlık hizmetlerinde kullanımı ve bu teknolojinin hastalıkların teşhis ve tedavisinde nasıl bir rol oynadığı üzerine örnekler ve analizler sunuluyor.
Yapay zeka ve güvenlik: Siber güvenlikten fiziksel güvenliğe kadar, yapay zekanın güvenlik alanındaki uygulamaları ve bu teknolojinin güvenlik tehditlerine karşı nasıl bir savunma sağladığı inceleniyor.Stanford Üniversitesi Yapay Zeka Laboratuvarı’nın 2024 AI Index Raporu’nda “Yapay Zeka ve Güvenlik” başlığı altında ele alınan konular, yapay zekanın güvenlik alanındaki uygulamalarını ve bu teknolojinin güvenlik tehditlerine karşı nasıl bir savunma sağladığını kapsıyor. Rapor, yapay zekanın siber güvenlikten fiziksel güvenliğe kadar geniş bir yelpazede nasıl etkili olduğunu ve bu teknolojinin güvenlik tehditlerine karşı nasıl bir savunma sağladığını inceliyor.
Raporun bu bölümünde, yapay zekanın güvenlikle ilgili aşağıdaki alanlarda nasıl kullanıldığına dair detaylar bulunuyor

Geleneksel olarak yapay zeka sistemleri kapsam olarak sınırlıydı;1 dil modelleri metin anlamada başarılı olurken görüntü işlemede zorlanıyordu ve tersi de geçerliydi. Ancak, son gelişmeler, Google’ın Gemini ve OpenAI’ın GPT-4 gibi güçlü çok modlu modellerin geliştirilmesine yol açtı. Bu modeller esneklik gösteriyor ve görüntüleri ve metni işleyebiliyor ve bazı durumlarda sesi bile işleyebiliyorlar.

Yapay zeka modelleri, ImageNet, SQuAD ve SuperGLUE gibi kuruluş ölçütlerinde performans doygunluğuna ulaştı, bu da araştırmacıları daha zorlayıcı ölçütler geliştirmeye itti. 2023 yılında, kodlama için SWE-bench, görüntü oluşturma için HEIM, genel akıl yürütme için MMMU, ahlaki akıl yürütme için MoCa, ajan tabanlı davranış için AgentBench ve hayal görme için HaluEval gibi birkaç zorlayıcı yeni ölçüt ortaya çıktı.

SegmentAnything ve Skoltech gibi yeni yapay zeka modelleri, görüntü segmentasyonu ve 3D rekonstrüksiyon gibi görevler için özelleştirilmiş veri üretmek için kullanılıyor. Veri, yapay zeka teknik gelişmeleri için hayati önem taşır. Yapay zekanın daha fazla veri oluşturması mevcut yetenekleri artırır ve özellikle daha zor görevlerde gelecekteki algoritmik gelişmeler için yeni yollar da açıyor

Üretken modeller yüksek kaliteli metin, görüntü ve daha fazlasını üretirken, ölçümleme yavaş yavaş ImageNet veya SQuAD gibi bilgisayarla yapılan sıralamalar yerine Chatbot Arena Lider Tablosu gibi insan değerlendirmelerini içerecek şekilde kaymaya başladı. Yapay zeka hakkında kamuoyu hissiyatı, yapay zeka ilerlemesini izlemede giderek daha önemli bir husus haline geliyor.

Dil modellemesi ile robotiğin birleşmesi, PaLM-E ve RT-2 gibi daha esnek robotik sistemlerin ortaya çıkmasına neden oldu. Gelişmiş robotik yeteneklerinin ötesinde, bu modeller soru sorabilir, bu da gerçek dünyayla daha etkili bir şekilde etkileşim kurabilen robotlar için önemli bir adımı işaret ediyor.

Ajansal yapay zeka üzerine daha fazla teknik araştırma.Belirli ortamlarda otonom olarak çalışabilen yapay zeka ajanları yaratmak, uzun süredir bilgisayar bilimcileri için bir meydan okuma olmuştur. Ancak, ortaya çıkan araştırmalar, otonom yapay zeka ajanlarının performansının geliştiğini gösteriyor. Mevcut ajanlar artık Minecraft gibi karmaşık oyunları ustalıkla oynayabilir ve çevrimiçi alışveriş ve araştırma yardımı gibi gerçek dünya görevlerini etkili bir şekilde ele alabilir.

Kapalı LLM’ler açık olanları önemli ölçüde geride bırakıyor.Seçilen 10 yapay zeka ölçütünde, kapalı modeller açık olanları geride bıraktı ve medyan performans avantajı %24.2 idi. Kapalı ve açık modellerin performansındaki farklılıklar, yapay zeka politikası tartışmaları için önemli sonuçlar taşıyor.