Bilim insanları yapay zekayı test eden sistemlerde hata buldu
Bilim insanları, yapay zekanın güvenilirliğini ölçmek için kullanılan 445 testin neredeyse tamamında hata buldu.
İngiltere Yapay Zeka Güvenlik Enstitüsü’nde görev yapan bilgisayar bilimciler, Stanford, Berkeley ve Oxford gibi dünyanın önde gelen üniversitelerinden araştırmacılarla birlikte yürüttükleri çalışmada, yapay zekanın güvenliği ve etkinliğini ölçmek için kullanılan 445 testin neredeyse tamamında ciddi kusurlar bulunduğunu ortaya koydu.
“Önemli Olanı Ölçmek: Büyük Dil Modeli Kıyaslamalarında Yapı Geçerliği” başlıklı bu kapsamlı araştırma, 14 farklı kurumdan 29 bilim insanının ortak çalışmasıyla yürütüldü. Bilim insanları, özellikle doğal dil işleme ve makine öğrenimi alanlarında kullanılan değerlendirme testlerini detaylı bir şekilde inceledi.
Araştırma sonucunda, testlerin büyük çoğunluğunun “sonuçların geçerliliğini zedeleyebilecek yapısal hatalar içerdiği” tespit edildi. Bu bulgular, son dönemde piyasaya sürülen yapay zeka modellerinin güvenilirliğini ölçmek için kullanılan sistemlerin güvenilirliğini sorgulattı.
Oxford İnternet Enstitüsünden Andrew Bean, araştırmanın sonuçlarını The Guardian gazetesine değerlendirirken önemli uyarılarda bulundu. Bean, “Bu testler, büyük teknoloji şirketlerinin piyasaya sunduğu yapay zeka modellerini değerlendirmede temel referans noktası haline geldi. Ancak eğer ölçüm araçlarımız doğru değilse, bu sistemlerin gerçekten ilerleyip ilerlemediğini anlamak da imkansız hale geliyor.” dedi.
Bilim insanları, mevcut testlerin ortak tanımlardan ve tutarlı ölçüm standartlarından yoksun olduğuna dikkat çekerek, bu durumun hem araştırma sonuçlarını hem de yapay zeka güvenliği konusundaki küresel çabaları olumsuz etkileyebileceğini belirtti.
Uzmanlara göre, yapay zekanın etik, güvenlik ve doğruluk boyutları hızla gelişirken, değerlendirme süreçlerinin bilimsel güvenilirlikten uzaklaşması bu alandaki ilerlemeyi sekteye uğratabilir.
Araştırmacılar, yapay zekanın gelecekte toplumsal karar mekanizmalarında daha fazla rol alacağına işaret ederek, ölçme-değerlendirme sistemlerinin acilen revize edilmesi gerektiğini vurguladı.
Bakmadan Geçme
