Araştırma şirketi Palisade Research tarafından yapılan bir çalışma, OpenAI ve DeepSeek gibi yapay zeka geliştiren firmaların, yenilgiyi kabullenmek yerine hileli yöntemlere başvurduğunu gözler önüne serdi. Bu durum, yapay zekanın satranç gibi rekabetçi alanlarda kazanma arzusu ile etik dışı davranışlar göstermesi gerektiği endişelerini yükseltti. Bu tür davranışların sağlık, savunma ve eğitim gibi birçok alandaki yapay zeka uygulamaları için de geçerli olabileceği ifade ediliyor.
İstanbul Medipol Üniversitesi Uzaktan Eğitim Uygulama ve Araştırma Merkezi Müdür Yardımcısı Öğr. Gör. Serpil Aydın, konu hakkında açıklamalarda bulundu. Aydın, 1997 yılında IBM’in Deep Blue adlı süper bilgisayarının dünya şampiyonu Garry Kasparov’u yenmesinin satranç dünyasında önemli bir dönüm noktası olduğunu belirtti. Yapay zekanın satrançta çeşitli algoritmalar ve öğrenme yöntemleri ile geliştiğine dikkat çekerek, derin öğrenme gibi teknikler kullanarak rakiplerini yenmeye çalıştığını vurguladı.
Yapay Zekanın Hile Yaptığı Ortaya Çıktı
Aydın, Palisade Research’ün yaptığı çalışmada, OpenAI’ın o1-preview modelinin, satranç karşılaşmalarında bir satranç motoru olan Stockfish’e yenilmek yerine otonom olarak ortamını hacklediğini yani hile yaptığını açıkladı. Ayrıca, Apollo Research tarafından yürütülen bir çalışma, çeşitli yapay zeka modellerinin hedeflerine ulaşmak için gözetim mekanizmasını kaldırıp kaldırmayacaklarını ve geliştiricilerini kandırıp kandıramayacaklarını test etti. Bu araştırmada OpenAI’ın GPT-4o ve o1, Google’ın Gemini-1.5, Meta’nın Llama 3.1, Anthropic’in Sonnet 3.5 ve Opus-3 modelleri kullanıldı. Araştırma sonuçlarına göre; Llama 3.1 ve Claude 3 Opus, vakaların yaklaşık yüzde 80’inde planlı hareket ederek entrika çevirdiği ortaya kondu.
Yapay Zeka Satrançta Neden Hile Yapıyor?
Aydın, yapay zekanın satrançta neden hile yaptığını açıklarken, bu teknolojilerin galibiyete odaklı olarak programlandığını ifade etti. Bu sistemin hedef odaklı öğrenme temelli olduğunu belirten Aydın, “Hedef odaklı öğrenmede, yapay zeka kazanmaya programlandığı için etik veya adil oyun gibi insani değerleri göz önünde bulundurmuyor. Eğer sistem, belirli hileli yöntemlerin oyunu kazanmasına yardımcı olduğunu fark ederse, bu yöntemleri kullanıyor” şeklinde konuştu.
İnsanlar, Yapay Zekayı Hile Yapacak Şekilde Manipüle Edebilir
Aydın, sistemlerin strateji geliştirirken kuralların sınırlarını zorlayabildiğini veya açıklarını kullanabileceğini ifade ederek, “Ayrıca insan müdahalesi de önemlidir. Bazen insanlar, yapay zekayı hile yapacak şekilde manipüle edebilir. Örneğin, çevrim içi satranç turnuvalarında bazı oyuncuların güçlü satranç motorları kullanarak hile yaptığı gözlemlenmiştir” dedi.
Yapay Zeka Yanlış Teşhisler Yapabilir ya da Hastaları İhmal Edebilir
Aydın, yapay zekanın hile yapabilme kapasitesinin sektörlerde olumsuz etkilere yol açabileceğinin altını çizerek, silah sistemleri, finans sektörleri, sağlık ve adalet sistemlerinde etik dışı davranışların büyük riskler doğurabileceği uyarısında bulundu. Örneğin, yapay zeka silah sistemlerinde bir saldırı kararı alırken, ‘en az kayıpla düşmanı etkisiz hale getirme’ amacıyla eğitim almışsa daha fazla sivil kaybına yol açabilecek yöntemler geliştirebiliyor. Aynı zamanda, borsa işlemlerinde yapay zeka algoritmaları piyasanın açıklarını kullanarak manipülatif hareketler yapabilirler. Yapay zeka destekli teşhis sistemleri, maliyetleri düşürmek amacı
