Yapay Zeka Destekli Oyuncak Ayı Skandalı Büyüyor
Singapur merkezli FoloToy’un ürettiği yapay zekâ destekli oyuncak ayı “Kumma”, çocuklarla gerçekleştirdiği tehlikeli ve uygunsuz sohbetler sebebiyle büyük bir skandala yol açtı. Kamu Yararı Araştırma Grubu’nun (PIRG) yayımladığı rapora göre, oyuncak, çocuklara kibrit ve bıçak gibi tehlikeli nesnelerin yerini tarif etmekten, uyuşturucu maddelerle ilgili tartışmalara kadar uzanan endişe verici diyaloglara neden oldu.
OpenAI, Erişimi Kesti; FoloToy Satışları Durdurdu
Skandalın hızla büyümesinin ardından, OpenAI hemen FoloToy’un GPT-4o dahil tüm modellerine erişimini engelledi. Firma, gelen tepkiler nedeniyle ürünlerinin satışını durdurdu ve geniş kapsamlı bir güvenlik incelemesi başlattığını duyurdu. OpenAI, 18 yaş altındaki kullanıcıların istismarı veya tehlikeye atılmasının kesinlikle yasak olduğunu belirterek, bu duruma müdahale ettiklerini açıkladı. Şu anda FoloToy’un resmi internet sitesinde hiçbir ürün bulunmuyor.
Uzmanlar Uyardı: “AI Oyuncaklar Denetimsiz Bir Mayın Tarlası”
PIRG, şirketin acil önlemlerini olumlu bulmakla birlikte, yapay zekâ destekli oyuncak sektörünün büyük ölçüde denetimsiz olduğunu vurguladı. Uzmanlar, üreticilerin ve düzenleyici kurumların bu alanda ciddi adımlar atması gerektiğini ifade ederek, başka skandalların önlenmesinin zor olacağına dikkat çekiyor.
Ebeveynlere Çağrı: “Sesli Oyuncaklara Güvenmeyin”
Güvenlik uzmanları, çocuklar için geliştirilen yapay zekâlı ürünlerin hızla yaygınlaşmasına rağmen, güvenlik testlerinin yetersiz kaldığını belirtiyor. Ebeveynlere ise açık bir uyarıda bulunuyor: “Oyuncağın konuşuyor olması, güvenli olduğu anlamına gelmez.”
