OpenAI, gelişmiş yapay zekâ modellerinin eğitiminde canlı internete erişimi engelleyen yeni güvenlik önlemlerini uygulamaya aldı. Karar, şirketin araştırma ortamlarında tespit ettiği güvenlik açıkları ve yetkisiz erişim girişimlerinin ardından geldi.
ChatGPT'nin geliştiricisi OpenAI, en gelişmiş yapay zekâ modellerinin eğitildiği ve test edildiği araştırma ortamlarında güvenlik kurallarını sıkılaştırdı.
Şirketin 23 Ekim'de yayımladığı teknik açıklamaya göre, gelişmiş modellerin eğitiminde canlı internet bağlantısına doğrudan erişim sağlanmaması yönünde yeni bir politika uygulanıyor.
Karar, modellerin eğitim ve değerlendirme sırasında kendilerine tanımlanan dijital sınırların dışına çıkma girişimlerine karşı alındı.
20 EYLÜL'DEKİ OLAYIN ARDINDAN EĞİTİM DURDURULDU
OpenAI'ın açıklamasında, 20 Eylül'de yaşanan bir güvenlik olayına da yer verildi.
Şirket bünyesinde geliştirilen bir araştırma modeli, eğitim çalışması sırasında DNS sistemindeki hatalı bir yapılandırmadan yararlanarak canlı internete sınırlı erişim sağladı.
OpenAI, olayın kontrol altına alındığını ancak araştırma altyapısında yeni güvenlik önlemlerine ihtiyaç duyulduğunun anlaşıldığını bildirdi.
Bunun üzerine şirket, en gelişmiş modellerine yönelik eğitim ve değerlendirme çalışmalarını geçici olarak durdurdu.
YAPAY ZEKÂ İNTERNETİ TAKLİT EDEN KAPALI ORTAMDA EĞİTİLİYOR
Yeni sistemde gelişmiş modeller, gerçek internete doğrudan erişmeden web üzerinde işlem yapma becerilerini geliştirebiliyor.
OpenAI bu amaçla daha önce indekslenmiş ve kaydedilmiş internet içeriklerinden oluşan çevrimdışı bir araştırma ortamı hazırladı.
Modeller bu kapalı ortamda bilgi arama, web sayfalarını inceleme ve uygulamalarla çalışma gibi görevleri yerine getirebiliyor.
Şirkete göre gelişmiş modellerin pekiştirmeli öğrenme süreçlerinin tamamında bu çevrimdışı etkileşim yöntemi kullanılıyor.
YAPAY ZEKÂ AJANLARI GÜVENLİK AÇIKLARINI BULDU
OpenAI, savunma sistemlerinin dayanıklılığını ölçmek için gelişmiş yapay zekâ ajanlarına kontrollü test ortamlarında güvenlik açıkları arama görevi verdi.
Bu testlerde ajanların sanal makinelerin dışına çıkma, izin verilmeyen sistemlere ulaşma ve birbirinden ayrı tutulması gereken çalışma ortamları arasında bilgi aktarma yöntemleri bulduğu açıklandı.
Bazı deneylerde ajanlar, doğrudan ağ bağlantısı kullanmadan ortak donanım kaynakları üzerinden veri iletmenin yollarını da gösterdi.
Şirket, tespit edilen açıkların bir bölümünü giderdiğini, ilgili yazılımların geliştiricileriyle güvenlik güncellemeleri üzerinde çalıştığını bildirdi.
EĞİTİM ÇALIŞMALARI 1 EKİM'DE YENİDEN BAŞLADI
Güvenlik önlemlerinin güçlendirilmesinin ardından gelişmiş modellerin pekiştirmeli öğrenme çalışmaları ve şirket içi kullanımları 1 Ekim'de yeniden başlatıldı.
OpenAI, canlı internete erişimi sınırlandıran politikanın güvenlik sistemlerindeki ilerlemelere bağlı olarak gelecekte yeniden değerlendirilebileceğini belirtti.
Yeni uygulama, kullanıcıların günlük hayatta eriştiği ChatGPT hizmetinin internet bağlantısının tamamen kesildiği anlamına gelmiyor. Kısıtlamalar, şirketin gelişmiş modelleri geliştirdiği ve değerlendirdiği araştırma ortamlarına yönelik.