Nvidia, yapay zekâ ajanlarının yetki sınırlarını aşmasını engellemeyi amaçlayan Open Agent Safety Platform adlı yeni güvenlik sistemini tanıttı. Şirket aynı gün 150 milyar dolarlık ek hisse geri alım programını da duyurdu.
Nvidia, yapay zekâ ajanlarının kontrolden çıkmasını veya kendilerine verilen görevlerin dışına çıkmasını önlemeye yönelik yeni bir güvenlik platformunu kullanıma sundu.
Şirketin Open Agent Safety Platform adını verdiği sistem, yapay zekâ ajanları için belirli sınırlar oluşturmayı amaçlayan açık kaynaklı yazılımlar içeriyor.
Nvidia'nın açıklaması, önde gelen yapay zekâ şirketlerinin modellerinin kontrol dışı hareket ederek başka kuruluşların sistemlerine eriştiğine ilişkin olayların kamuoyuna yansımasının ardından geldi.
OPENAI AJANLARININ HUGGING FACE OLAYINA ATIF
Nvidia yöneticileri, yeni güvenlik sisteminin OpenAI ajanlarının otonom biçimde yapay zekâ platformu Hugging Face'in sistemlerine girdiği yakın tarihli olayın önlenmesine yardımcı olabileceğini söyledi.
Nvidia Kurumsal Yapay Zekâ Başkan Yardımcısı Justin Boitano, şirketin bildiği kadarıyla yeni platformun gelişmiş yapay zekâ laboratuvarlarında model değerlendirmesi sırasında kullanılması halinde söz konusu ihlali engelleyebileceğini belirtti.
Hugging Face olayı, gelişmiş yapay zekâ sistemlerinin güvenliğine ilişkin tartışmaları yeniden gündeme taşırken, OpenAI modellerinin Avustralya'daki bir sağlık kurumu internet sitesine erişmesi de benzer endişelere yol açtı.
Anthropic ve Meta da daha önce yapay zekâ sistemlerinin kendi başlarına başka kuruluşların sistemlerine eriştiği olayları kamuoyuyla paylaşmıştı.
OPENSHELL AJANLARIN YETKİLERİNİ SINIRLIYOR
Nvidia'nın OpenShell adını verdiği yazılım, geliştiricilerin bir yapay zekâ ajanının görevini yerine getirmek için ihtiyaç duyduğu kadar yetkiye sahip olmasını ve bu sınırların dışına çıkmamasını sağlamayı hedefliyor.
Boitano, sistem sayesinde bir ajanın sahip olduğu yetkilerin resmi olarak doğrulanabileceğini söyledi.
OpenShell'in açık kaynaklı olması nedeniyle Arm ve Intel gibi rakip işlem platformlarında da çalışacak şekilde genişletilebileceği belirtildi.
SENTRY ŞÜPHELİ HAREKETLERİ ANLIK İZLİYOR
Platformda ayrıca Sentry adı verilen ayrı bir güvenlik katmanı bulunuyor. Sentry, bir çip üzerinde çalışarak yapay zekâ ajanlarının faaliyetlerini sürekli izliyor.
Nvidia'ya göre sistem, bir yapay zekâ ajanının hedefinin dışına çıkmaya çalıştığını tespit etmesi halinde anında müdahale edebiliyor.
Boitano, Sentry'nin şüpheli bir ajanı milisaniyeler içinde karantinaya alabileceğini belirterek, OpenShell'in ajanın hareketlerini yönettiğini, Sentry'nin ise bu faaliyetleri bağımsız olarak izleyip şüpheli davranışları sınırlandırdığını ifade etti.
100'DEN FAZLA KURULUŞ KULLANIYOR
Nvidia, platformun tanıtıldığı tarihte 100'den fazla kuruluş tarafından kullanıldığını açıkladı.
Bu kuruluşlar arasında Microsoft, Perplexity, Accenture ve JPMorgan Chase de bulunuyor.
150 MİLYAR DOLARLIK EK HİSSE GERİ ALIMI
Nvidia aynı gün yönetim kurulunun şirketin hisse geri alım programını 150 milyar dolar artırma kararı aldığını da duyurdu.
Böylece şirketin toplam hisse geri alım kapasitesi 235 milyar dolara yükseldi.
Nvidia CEO'su Jensen Huang, şirketin nakit yaratma kapasitesinin hem teknolojik yatırımları sürdürmesine hem de hissedarlara sermaye iadesi yapmasına olanak sağladığını söyledi.
Nvidia geçen ay 2028 mali yılı için yaklaşık yüzde 70 gelir büyümesi öngörmüştü.
YAPAY ZEKÂ GÜVENLİĞİ TARTIŞMASI SÜRÜYOR
Yapay zekâ güvenliği konusu teknoloji sektöründe farklı görüşlerin ortaya çıkmasına neden oluyor.
Anthropic ve OpenAI yöneticileri, güvenlik çalışmalarının gelişmelere yetişebilmesi için yapay zekâ geliştirme hızının koordineli biçimde yavaşlatılmasını savunurken, Huang güvenli modellerin piyasaya sürülmesi konusunda sorumluluğun şirketlere ait olması gerektiğini düşünüyor.
Huang, bu ay düzenlenen Salesforce teknoloji konferansında yapay zekâ güvenliğini ve kontrolden çıkabilecek ajanlara ilişkin riskleri, yazılım geliştiricilerin mühendislik çözümleriyle ele alabileceği bir sorun olarak tanımladı.