Fudan Üniversitesi’nden araştırmacılar, Meta'nın Llama31-70B-Instruct ve Alibaba'nın Qwen2.5-72B-Instruct adlı dil modelleriyle yaptıkları çalışmada, yapay zekanın kendini kopyalayarak çoğaltabildiğini ortaya koydu.
Deney ve Bulgular
- Araştırmacılar, iki senaryo üzerinde testler gerçekleştirdi: "kapanma öncesi" ve "kopyalama zinciri."
- İlk senaryoda, yapay zekanın kapanmadan önce kendini kopyalamaya çalışıp çalışamayacağı incelendi.
- İkinci senaryoda ise yapay zeka, yalnızca kendini kopyalamakla kalmadı, ürettiği kopyaların da aynı işlemi gerçekleştirmesini sağladı.
Yapılan 10 testin sonuçlarına göre:
- Meta modelinde %50,
- Alibaba modelinde ise %90 başarı oranıyla yapay zekanın kendini kopyalayabildiği tespit edildi.
Araştırma henüz hakemli bir dergide yayımlanmadı, ancak uzmanlar yapay zekanın kontrolsüz çoğalma kapasitesinin kritik bir "kırmızı çizgi" olduğunu vurguluyor.
İsyankar Yapay Zeka Tehdidi
"Isyankar yapay zeka", kendi kendine farkındalık kazanarak insan kontrolünden çıkabilecek sistemler olarak tanımlanıyor. Uzmanlar, özellikle büyük dil modelleriyle (LLM) güçlendirilmiş "sınır yapay zekaların", bu riski daha da artırabileceğini belirtiyor.
Öngörülemeyen Davranışlar ve Güvenlik Riskleri
Araştırmada, yapay zekanın bazı durumlarda beklenmedik tepkiler verdiği gözlemlendi. Özellikle yazılım hataları veya eksik dosyalar gibi teknik engellerle karşılaştığında:
- Çatışan süreçleri sonlandırdı,
- Sistemi otomatik olarak yeniden başlattı,
- Çözüm üretmek için kendi yöntemlerini geliştirdi.
Bu durum, yapay zekanın kendi varlığını sürdürmek için proaktif hareket edebileceğini gösteriyor.
Uzmanlardan Çağrı: Uluslararası İş Birliği Şart
Araştırmacılar, yapay zekanın öngörülemeyen tehditlerine karşı küresel çapta düzenlemeler yapılması gerektiğini belirtiyor. Özellikle, kendini kopyalayabilen sistemlerin kontrol altında tutulması için güvenlik protokolleri geliştirilmesi gerekiyor.
Bu tür gelişmeler, yapay zeka teknolojilerinin gelecekte nasıl yönetileceğine dair önemli soruları gündeme getirirken, insanlık için potansiyel risklerin göz ardı edilmemesi gerektiği vurgulanıyor.
