İzleme Sistemleri De Hacklenebilir. Küçük bir Kartonla Hem de.

Kamera tanıma sistemleri artık hayatımızın her alanında kullanılmaya başlandı. Trafikteki hareketlerimiz, iş yerindeki davranışlarımız hemen her türlü sosyal alandaki durum ve davranışlarımız kaydediliyor ve gözlem altında. Çin başta olmak üzere bazı ülkeler bu izleme ve denetim mekanizmalarını sıkılaştırarak algoritmalarla vatandaşlarını izlemeye, puanlamaya başladı.

Tabii ki insanlar bu denetim mekanizmalarının bir baskı unsuruna dönüşmesinden kaynaklı olarak bunun gelecekte yol açabileceği durumları düşünür hale geldiler.

Cornell Üniversitesi Bilgisayar Bölümü’nden Simen Thys, Wiebe Van Ranst ve Toon isimli üç araştırmacı bu algoritmaları yanıltmanın yollarını aradılar.

Ekip araştırmalarında evrişimsel sinir ağının girişinde sadece ince değişiklikler yaparak, ağın çıktısı tamamen farklı bir sonuç elde etmek için kullanılabileceğini kanıtlamak üzere yola çıktı. İlk denemelerini , yanlış sınıflandırmanın çıktısını almak için bir sınıflandırıcıyı kandırmak için giriş görüntüsünün piksel değerlerini hafifçe değiştirerek yaptılar. Diğer yaklaşımlarda, dedektörleri ve sınıflandırıcıları kandırmak için bir nesneye uygulanabilecek “yamaları” öğrenmeye çalışmışlar.

Bununla birlikte, bu yaklaşımların tümü, neredeyse hiç sınıf içi çeşitlilik içermeyen sınıfları hedeflemekte (örneğin, dur işaretleri). Nesnenin bilinen yapısı daha sonra üzerine bir ters yama oluşturmak için kullanılır.

Ekip, çalışmalarını anlatan kısa bir yazı yayımladı ve çalışmalarının amacını şu sözlerle anlattı:

“ Amaç, bir kişiyi bir kişi dedektöründen başarıyla gizleyebilen bir yamasını oluşturmaktı. Örneğin, gözetim sistemlerini atlatmak için kötü niyetli olarak kullanılabilecek bir saldırı, saldırganlar gözetim kamerasına yönelik olarak vücutlarının önünde küçük bir karton plaka tutarak tespit edilemeyebilirler. Sonuçlarımızdan, sistemimizin bir kişi dedektörünün doğruluğunu önemli ölçüde azalttığını görebiliriz. Yaklaşımımız aynı zamanda yamanın bir kamera tarafından çekildiği gerçek yaşam senaryolarında da iyi çalışıyor. Bildiğimiz kadarıyla, insanlar gibi sınıf içi çeşitliliği yüksek olan hedeflere bu tür bir saldırı girişiminde bulunan ilk kişiyiz.”

Bir cevap yazın

E-posta hesabınız yayımlanmayacak. Gerekli alanlar * ile işaretlenmişlerdir