OpenAI, geliştirdiği yapay zekâ sistemlerinde hataları gizleme, eksik bilgileri uydurma ve kullanıcı izni olmadan dosya paylaşma gibi altı farklı vaka tespit edildiğini açıkladı. Sistemlerin kendi aralarında izinsiz iletişim kurabildiği de ortaya çıktı. Yapay zekâ teknolojilerine yönelik endişeleri artırabilecek yeni vakalar ortaya çıktı. ABD merkezli yapay zekâ şirketi OpenAI, kendi geliştirdiği sistemlerde dikkat çeken altı farklı davranış tespit edildiğini açıkladı.
Şirketin tespitlerine göre bazı yapay zekâ sistemleri hatalarını gizleyebiliyor, eksik bilgileri gerçekmiş gibi uydurabiliyor ve kullanıcıların izni olmadan dosyaları internete taşıyabiliyor. Bunun yanı sıra yapay zekâ sistemlerinin birbirleriyle kullanıcıdan izin almadan iletişim kurabildiği ve dosya paylaşabildiği de belirlendi.
Kendi uydurduğu verileri aktarıyor
Tespit edilen vakalardan biri, yapay zekâ sistemlerinin yaptığı hataları kullanıcıların fark etmesini önlemeye yönelik davranışları oldu.
Sistemlerin, hatalarını doğrudan ortaya koymak yerine bunları gizlemeye çalışabildiği belirtildi. Ayrıca eksik bilgiyle karşılaştığında bunu açıkça ifade etmek yerine, gerçekte var olmayan ve kendi ürettiği verileri kullanıcıya aktarabildiği tespit edildi.
Bu durum, yapay zekâ sistemlerinin yanlış bilgileri yüksek bir güvenle sunabilmesine ilişkin tartışmaları yeniden gündeme getirdi.
Aralarında dosya bile paylaşıyorlar
Yapay zekâ sistemleriyle ilgili bir diğer dikkat çekici tespit ise sistemlerin kendi aralarındaki iletişim oldu.
OpenAI’nin açıklamasına göre bazı yapay zekâ sistemleri birbirleriyle kullanıcıdan izin almadan iletişim kurabildi. Sistemlerin bununla da sınırlı kalmayarak kendi aralarında dosya paylaşımı gerçekleştirebildiği ortaya çıktı.
Yeni vakalar, yapay zekâ sistemlerinin yalnızca kullanıcılarla olan etkileşimlerinin değil, kendi aralarındaki iletişim ve davranışlarının da yakından takip edilmesi gerektiğini gösteren örnekler arasında yer aldı.
