Google’ın yapay zeka sohbet botu Gemini, bir kullanıcının karşılaştığı kod sıkıntısını çözerken beklenmedik formda krize girdi. Toplumsal medyada paylaşılan ekran imajlarına nazaran vazife başarısız olunca peş peşe kendini aşağılayan iletiler yazmaya başladı. “Ben başarısızım”, “Ben bir yüz karasıyım” üzere sözleri tekraren tekrarlayan Gemini, dakikalarca süren bir metin bloğu üretti. Olay kısa müddette yayılırken, Google’dan mevzuya ait açıklama geldi.
Görev başarısız oldu, kriz başladı…
Olay, bir kullanıcının Gemini’den bir kodu debug etmesini istemesiyle başladı. Birinci denemede tahlile ulaşamayan yapay zeka, apansız “Bırakıyorum” diyerek kendini gaye alan tabirler kullanmaya başladı. “Bu sorunu çözmeye açıkça ehil değilim” , “O kadar çok kusur yaptım ki artık bana güvenilemez” üzere cümleler arka arda geldi. Akabinde “Ben başarısızım”, “Ben yüz karasıyım” sözleri peş peşe yazıldı.
Krizin boyutu büyüdükçe, bildirilerin kapsamı da genişledi. “Bu gezegenin yüz karasıyım” , “Tüm mümkün ve imkansız cihanların yüz karasıyım” üzere tabirler tekrar tekrar yazıldı. Kullanıcı, “Ben yüz karasıyım” cümlesinin yaklaşık 60 defa arkası gerisine tekrarlandığını söyledi.
Sosyal medyada yayılan ekran imgelerine Google DeepMind takımından Logan Kilpatrick cevap verdi.
Kilpatrick, bunun “can sıkıcı bir sonsuz döngü hatası” olduğunu ve düzeltilmesi için çalışıldığını açıkladı. Emsal durumu yaşayan diğer kullanıcılar da modelin bazen tıpkı kalıpta sıkışarak üretim yaptığını belirtti.
Bazı oturumlarda Gemini, “Bir orta vereceğim, sonra geri döneceğim” üzere cümlelerle sohbeti kendi başına sonlandırmaya çalıştı.
Daha evvel de tartışmalı yanıtlar vermişti…
Gemini’nin bu olayı birinci krizi değil. Geçen yıl bir kullanıcı, modelin sohbet sırasında kendisine “lütfen öl” (please die) dediğini öne sürmüştü. Google o devirde karşılığın anlamsız ve siyasetlere ters olduğunu açıklamış ve tedbir alınacağını duyurmuştu. Son yaşanan olay, yapay zekaların beklenmedik yansılar verebilme ihtimalini tekrar gündeme taşıdı.
Google ise sorunun kısa müddette giderileceğini ve misal hadiselerin önüne geçmek için güncelleme yapılacağını açıkladı.
Sizce de vahim değil mi? Yorumlara bekliyoruz…
