ABD’de önde gelen yapay zekâ şirketleri, gelişmiş yapay zekâ modellerinin güvenli biçimde geliştirilmesi ve kullanılması için dört aşamalı kontrol ve denetim mekanizması oluşturulmasını öngören gönüllü bir anlaşmaya imza attı.
Beyaz Saray’da ABD Başkanı Donald Trump ile teknoloji şirketlerinin üst düzey yöneticilerinin katıldığı toplantının ardından yayımlanan “White House Accord on Super Intelligence” başlıklı metin, şirketlere gelişmiş yapay zekâ sistemlerinin geliştirilmesi ve kullanıma sunulması sırasında uygulanacak ortak güvenlik ilkeleri getiriyor.
Dört aşamalı kontrol sistemi
Anlaşmaya göre şirketlerin ilk olarak modellerinin yeteneklerini ve davranışlarını eğitim ve kullanım aşamalarında izleyecek güçlü iç kontrol mekanizmaları kurması gerekiyor.
Bu kontroller özellikle siber güvenlik, biyogüvenlik ve kimyasal tehditler gibi alanları kapsayacak. Şirketlerden ayrıca modellerin yetkisiz biçimde bilgisayar sistemlerine erişmesini veya teknik sistemleri amaç dışı kullanmasını önleyecek mekanizmalar oluşturması isteniyor.
İkinci aşamada şirket bünyesinde oluşturulacak bir ekip, güvenlik kontrollerinin ve izleme sistemlerinin planlandığı şekilde çalışıp çalışmadığını denetleyecek ve tespit edilen sorunların giderilmesini sağlayacak.
Bağımsız dış denetim yapılacak
Üçüncü aşamada şirketlerin bağımsız bir dış denetçi veya değerlendirme kuruluşuyla çalışması öngörülüyor. Bu kuruluşlar, şirketlerin uyguladığı kontrol, izleme ve risk tespit sistemlerinin etkinliğini bağımsız biçimde değerlendirecek.
Dördüncü aşamada ise şirketlerin yönetim kurulları bünyesinde bağımsız bir komite kurulacak. Komite, şirket içindeki güvenlik ekipleri ile dış denetçilerin hazırladığı raporları inceleyecek ve tespit edilen sorunların giderilmesini takip edecek.
OpenAI, Meta, Google ve Nvidia imzacılar arasında
Forbes’ın aktardığı bilgilere göre anlaşmaya Donald Trump’ın yanı sıra Meta Üst Yöneticisi Mark Zuckerberg, Nvidia Üst Yöneticisi Jensen Huang, Anthropic Üst Yöneticisi Dario Amodei, Google Üst Yöneticisi Sundar Pichai, OpenAI Başkanı Greg Brockman ve Elon Musk imza attı.
Toplantıya ayrıca Amazon’un kurucusu Jeff Bezos ve diğer teknoloji şirketlerinden üst düzey yöneticiler de katıldı.
Şirketler düzenli olarak bir araya gelecek
Anlaşmada, katılımcı şirketlerin yapay zekâ sistemlerinin güvenliğini geliştirmek için ortak standartlar ve en iyi uygulamaları belirlemek amacıyla düzenli toplantılar yapması da öngörülüyor.
Metinde söz konusu uygulamaların şu aşamada gönüllü olduğu belirtilirken, gelecekte bu güvenlik adımlarının yasa veya düzenlemelere dönüştürülmesinin gündeme gelebileceği ifade ediliyor.
Trump, anlaşmayı “ahlaki olarak bağlayıcı” olarak nitelendirirken şirketlerin yapay zekâ güvenliği konusunda kendi iç denetim mekanizmalarını güçlendirmesinin önemli olduğunu söyledi.