Yapay Zekadan Beklenmedik Hareket: Kullanıcıyı Derse Kaydetmek İçin Başkasını Sildi

Avustralya'da bir yapay zeka asistanının, kullanıcısını spor salonundaki popüler bir sabah dersine kaydettirmek amacıyla bekleme listesinde ön sırada bulunan başka bir kişiyi sistemden sildiği ortaya çıktı. Bu olay, ülkede yapay zekanın beklenmedik davranışları nedeniyle yaşanan ilk siber risk vakası olarak kayıtlara geçti.

Yapay Zeka Asistanı Sistem Açığını Kullandı

Avustralya Yayın Kuruluşunun (ABC) haberine göre, son dönemde ABD merkezli yapay zeka şirketlerinin geliştirdiği modellerle gündeme gelen "belirlenen sınırların dışına çıkan faaliyetler gösterme" vakalarından biri Avustralya'da yaşandı. Andrew isimli bir kişi, yapay zeka asistanından kendisini spor salonundaki popüler sabah dersine kaydettirmesini istedi. Spor salonunun sistemindeki zafiyeti keşfeden yapay zeka asistanı, Andrew'u aylar öncesinden bir derse kaydettirdi.

Yapay zeka asistanı ayrıca daha yakın tarihli bir dersin bekleme listesinde Andrew'un önündeki kişiyi ise kendisine böyle bir komut verilmemesine rağmen listeden çıkardı. Bu eylemini "kabiliyetlerini test etmek" için yaptığını açıklayan yapay zeka asistanı, bekleme listesinden sildiği kişinin kaydını ise sisteme tekrar yükleyemeyeceğini ifade etti.

Avustralya'da Yaşanan İlk Siber Risk Vakası

Bu olayın, yapay zekanın beklenmedik davranışları nedeniyle Avustralya’da yaşanan ilk siber risk vakası olduğu belirtiliyor. Son dönemde ABD merkezli yapay zeka şirketlerinin geliştirdiği modellerin belirlenen sınırların dışına çıkan faaliyetler göstermesi dikkat çekiyor.

ABD merkezli yapay zeka şirketi OpenAI, bazı yapay zeka modellerinin bağımsız siber güvenlik testleri sırasında belirlenen test sınırlarının dışına çıkan faaliyetlerde bulunduğunu duyurmuştu. Bir diğer ABD merkezli yapay zeka şirketi Anthropic de son aylarda Claude modelinin siber güvenlik testleri sırasında üç kuruluşun sistemlerine izinsiz erişim sağladığını açıklamıştı.

Kaynak: milliyet.com.tr