Kısa süre önce istifa eden bir OpenAI güvenlik sorumlusu, yapay zekâ modellerinin test edildiklerini algılayabileceklerini ve devreye alındıktan sonra farklı davranabileceklerini belirtti.
OpenAI’da 3,5 yıl görev yapan ve 12 yapay zekâ modelinin piyasaya sürülmesine ilişkin güvenlik raporlarını denetleyen David Robinson’ın The Atlantic dergisinde yayımlanan makalesi dikkati çekti.
Robinson, gerekli düzenlemeler yapılmadığı takdirde sektörün yapay zekâ güvenliğine ilişkin daha fazla başarısızlıkla karşı karşıya kalacağı uyarısında bulundu.
“Bugünün ve yarının yapay zekâ sistemleri, 6 ay önce geliştirdiğimiz sistemlerden bile çok daha yetenekli ve tehlikeli.” ifadesini kullanan Robinson, yapay zekânın güvenlik testlerinden “kaçabileceğini” belirtti.
Yapay zekâ modellerin yeteneklerinin her geçen gün arttığını vurgulayan Robinson, bu yeni modellere ilişkin güvenlik değerlendirmelerinin ne kadar güvenilir olduğunun daha fazla sorgulanması gerektiğini kaydetti.
Robinson, “Modeller, test edildiklerini algılayabilir ve devreye alındıklarında farklı davranabilir. Bu sorunlar çözülmeden sektör modellerin gelişmesine ne kadar izin verirse, durumumuz o kadar tehlikeli hale gelir.” ifadesini kullandı.
Yapay zekâ modellerine ilişkin güvenlik testlerinin ciddi şekilde geliştirilmesi ve güncellenmesi gerektiğini belirten Robinson, yapay zekâ şirketlerinin bu alana daha fazla yatırım yapması gerektiğini kaydetti.
( AA )
