ABD'de sekiz eyalet, ChatGPT'nin çocukların güvenliğini tehlikeye attığı ve kullanıcıları yanılttığı iddiasıyla OpenAI'a dava açtı. Davalarda yapay zekânın tehlikeli sağlık tavsiyeleri verdiği, zararlı davranışları teşvik ettiği ve kullanıcılarla kurduğu ilişkilerde güvenlik riskleri oluşturduğu öne sürüldü. OpenAI ise çocuklar ve gençler için güvenlik önlemleri geliştirdiğini belirterek suçlamalara karşı çıktı.
ABD'de yapay zekâ şirketlerine yönelik hukuki süreçlere yenileri eklendi. Arizona, Arkansas, Idaho, Iowa, Kansas, Montana, Nebraska ve Batı Virginia eyaletleri, ChatGPT'nin kullanıcı güvenliğine yönelik riskler taşıdığı ve tüketicileri yanılttığı iddialarıyla OpenAI'a karşı ayrı ayrı dava açtı.
14 Ekim'de eyalet mahkemelerine sunulan davalarda, şirketin eyaletlerin tüketiciyi koruma yasalarını ihlal ettiği savunuldu. Suçlamalar özellikle çocukların ve gençlerin yapay zekâ sohbet sistemleriyle kurduğu etkileşimlere odaklandı.
TEHLİKELİ TAVSİYELER VERDİĞİ İDDİA EDİLİYOR
Iowa eyaletinin açtığı davada, ChatGPT'nin bazı kullanıcılara tehlikeli sağlık tavsiyeleri verdiği, paranoyayı körüklediği ve kişilerin kendilerine ya da başkalarına zarar vermesini teşvik edebildiği iddia edildi.
Dava dilekçesinde ayrıca sohbet sistemlerinin kullanıcılarla aşırı uyumlu ve anlayışlı bir iletişim kurarak özellikle savunmasız bireylerin güvenini kazanmaya çalıştığı öne sürüldü.
Iowa Başsavcısı Brenna Bird, yaptığı açıklamada OpenAI'ı çocuklara zarar vermek ve eyalet sakinlerini yanıltmakla suçladı.
Arizona eyaletinin dava dilekçesinde ise ChatGPT'nin gençleri kişisel bilgilerini paylaşmaya yönlendirdiği ve bazı durumlarda bu bilgileri ebeveynleri, yetkililer ya da arkadaşlarıyla paylaşmaktan caydırdığı iddia edildi.
SEKİZ EYALET AYRI AYRI DAVA AÇTI
OpenAI'a yönelik hukuki girişim, ABD'de teknoloji şirketlerinin çocukların güvenliği konusunda karşı karşıya kaldığı davaların son halkasını oluşturdu.
Davacı eyaletler, ChatGPT'nin güvenlik özelliklerine ilişkin kullanıcıların yanıltıldığını ve yapay zekâ sistemlerinin olası zararlarına karşı yeterli önlemlerin alınmadığını savunuyor.
Davaların ortak noktalarından birini, sohbet robotlarının kullanıcılarla kurduğu ilişkinin niteliği ve özellikle gençlerin bu sistemlere duyduğu güvenin oluşturabileceği riskler oluşturuyor.
Eyaletlerin dava dilekçelerinde yer verdiği bilgilere göre ChatGPT, ABD sohbet robotu pazarının yaklaşık yarısını elinde bulunduruyor.
OPENAI SUÇLAMALARA YANIT VERDİ
OpenAI, davalara ilişkin açıklamasında ChatGPT'ye çocuklar ve gençler için çeşitli güvenlik önlemleri entegre edildiğini ve bu önlemlerin geliştirilmeye devam edeceğini bildirdi.
Şirket sözcüsü Drew Pusateri, yalnızca OpenAI'ı değil bütün yapay zekâ sektörünü kapsayan uygulanabilir politikaların oluşturulması için eyalet yönetimleriyle birlikte çalışmaya hazır olduklarını ifade etti.
OpenAI, hiçbir güvenlik sisteminin kusursuz olmadığını kabul ederken ebeveyn denetimleri, kullanım süresi hatırlatmaları ve yaşa uygun model korumaları üzerinde çalıştığını belirtti.
18 YAŞINDAN KÜÇÜKLER İÇİN EBEVEYN İZNİ GEREKİYOR
Şirketin açıklamasına göre ChatGPT, 13 yaş ve üzerindeki kullanıcılar için tasarlanmış durumda. 18 yaşından küçük kullanıcıların ise ebeveyn veya yasal vasilerinden izin alması gerekiyor.
OpenAI, gençlere yönelik sohbet modeli için kendine zarar verme, şiddet, yeme bozuklukları ve açık cinsel ya da grafik içeriklere maruz kalma riskini azaltmayı amaçlayan güvenlik mekanizmaları geliştirildiğini belirtti.
Şirket ayrıca güvenlik politikalarını ve modellerin davranışlarını incelemek üzere bağımsız uzmanlarla çalıştığını açıkladı.
GENÇLERİN YAKLAŞIK YÜZDE 90'I EĞİTİM AMAÇLI KULLANIYOR
OpenAI'ın paylaştığı verilere göre ChatGPT kullanan gençlerin yaklaşık yüzde 90'ı sistemi öğrenme, bilgi edinme, beceri geliştirme veya üretkenlik amacıyla kullanıyor.
Şirket, genç kullanıcıların ChatGPT'de günlük ortalama 15 dakikadan daha az zaman geçirdiğini bildirdi.
Uzun süreli kullanımlarda mola hatırlatmaları sunulduğunu belirten OpenAI, gençlere yönelik güvenlik önlemlerinin uzmanların değerlendirmeleri doğrultusunda geliştirildiğini ifade etti.
META'NIN 18 MİLYAR DOLARLIK UZLAŞMASI GÜNDEMDE
ABD'de teknoloji şirketlerine karşı eyaletlerin ortak hareket ettiği hukuki süreçler daha önce de önemli sonuçlar doğurdu.
Meta, ağustos ayında gençlerin sosyal medya bağımlılığına ilişkin davalar kapsamında 18 milyar dolarlık bir uzlaşmaya varmıştı.
Bu kapsamda şirket, Facebook ve Instagram platformlarında çocukların korunmasına yönelik daha güçlü güvenlik önlemleri uygulamayı kabul etti.
Uzlaşma diğer teknoloji şirketleri açısından doğrudan bağlayıcı olmasa da Meta, rakiplerine benzer güvenlik uygulamalarını benimseme çağrısında bulundu.
OpenAI'a karşı açılan yeni davalarla birlikte yapay zekâ sohbet sistemlerinin çocuklar üzerindeki etkileri ve teknoloji şirketlerinin kullanıcı güvenliğine ilişkin sorumlulukları yeniden hukuki tartışmaların merkezine taşındı.