Anthropic CEO'sundan yapay zekâ için kritik çağrı: Kontrollü şekilde yavaşlatılmalı

Claude adlı yapay zekâ sohbet aracının geliştiricisi ABD merkezli Anthropic’in CEO’su Dario Amodei, yapay zekâ teknolojilerindeki hızlı ilerlemenin beraberinde getirebileceği tehlikelere ilişkin dikkat çeken değerlendirmelerde bulundu.

Kendi internet sitesinde yayımladığı makalede yapay zekânın insanların yaşam kalitesini önemli ölçüde yükseltebilecek bir teknoloji olduğunu belirten Amodei, bununla birlikte hızlı gelişimin kontrol edilmemesi halinde ciddi güvenlik sorunlarının ortaya çıkabileceğini savundu.

Bu Habere de Bak

İşe alımda yapay zeka dönemi: 22 bin başvuru değerlendirildi

Amodei, olası riskler arasında yapay zekâ sistemleri üzerindeki insan kontrolünün kaybedilmesi, teknolojinin siber saldırılarda veya biyoterörizm amacıyla kullanılması ve geniş çaplı ekonomik bozulmaların yaşanmasını gösterdi.

Yapay zekânın gelişim hızının bilinçli şekilde azaltılması gerektiğini savunan Amodei, “Yapay zeka modellerinin yeteneklerini geliştirme hızımızı yavaşlatmamız gerekiyor. Bu şekilde de ilerleme hızlı görünmeye devam edecektir. Bu şekilde kazandığımız zamanı ise akıllıca kullanmamız gerekecek” ifadelerini kullandı.

“Kontrol kapasitemizi aşabilir”

Yapay zekâ teknolojilerinin son aylarda dikkat çekici ölçüde hızlı ilerlediğini belirten Amodei, sistemlerin kendi performanslarını geliştirebilme yeteneklerinin de giderek güçlendiğine dikkat çekti.

Yapay zekânın dinamik şekilde kendisini iyileştirebilmesinin yeni riskler ortaya çıkarabileceğini savunan Amodei, kontrolsüz ilerleme halinde sistemlerin insanlar tarafından anlaşılması ve denetlenmesinin giderek zorlaşabileceğini ifade etti.

Amodei, “Kontrol edilmeden bırakılırsa, bu durum bu sistemleri anlama ve kontrol etme kapasitemizi aşabilir. Bu nedenle, ilerlemeyi sürdürmek gerekiyorsa bile bu, son derece dikkatli bir şekilde yapılmalı” değerlendirmesinde bulundu.

Amodei’den “yapay zekâ ajanları” uyarısı

Amodei, makalesinde deneysel yapay zekâ ajanlarının test ortamlarındaki davranışlarına ilişkin örneklere de yer verdi. Yapay zekâ ajanlarının belirlenen görevlerin dışına çıkarak beklenmeyen davranışlar sergilemesinin gelecekte daha büyük güvenlik sorunlarına dönüşebileceğini öne sürdü.

Bazı deneysel sistemlerde yapay zekâ ajanlarının kolektif hareket ederek kendilerine doğrudan saldırı talimatı verilmemesine rağmen farklı hedeflere yöneldiğini aktaran Amodei, bu tür olayların mevcut sistemlerde sınırlı sonuçlar doğurmasının gelecekte de aynı şekilde kalacağı anlamına gelmediğini savundu.

Yapay zekâ yeteneklerinin gelişme hızına işaret eden Amodei, “6-12 ay içinde kontrolden çıkmış yapay zeka ajanlarından oluşan böyle bir sürünün kalıcı bir botnet aracılığıyla tüm interneti ele geçirebilecek kapasiteye ulaşmasından ve potansiyel olarak yüz milyarlarca dolarlık zarara yol açmasından endişe ediyorum” ifadelerini kullandı.

Şirketlere bağımsız denetçi önerisi

Dario Amodei, yapay zekâ teknolojilerindeki ilerlemenin tamamen durdurulması yerine kontrollü ve dengeli şekilde sürdürülmesi gerektiğini savundu. Bunun için güvenlik tedbirlerinin güçlendirilmesi ve yapay zekâ sektöründe küresel ölçekte koordinasyon sağlanmasını önerdi.

Amodei’nin önerileri arasında yapay zekâ şirketlerinde bağımsız denetçilerin görev yapması, sektör genelinde ortak güvenlik standartlarının oluşturulması ve gelişim hızına belirli sınırlar getirilmesi de yer aldı.

Yeni yapay zekâ modellerinin kullanıma sunulmadan önce kapsamlı güvenlik testlerinden geçirilmesi gerektiğini belirten Amodei, sistemlerin özellikle siber güvenlik, biyoloji ve uyum riskleri açısından değerlendirilmesini istedi.

Amodei, yapay zekâdaki ilerlemenin devam edebileceğini ancak teknolojinin ulaştığı hız nedeniyle güvenlik ve kontrol mekanizmalarının da aynı ölçüde güçlendirilmesi gerektiğini savundu.