Birisi bana "AI güvenliği neden bu kadar zor?" diye sorduğunda şu cevabı veriyorum:
Çünkü düşman görünmez olmayı seçer. Saldırı sistemde bir log'un görünmemesiyle, bir ayak izi bırakılmamasıyla ya da saldırı öncesi ve sonrası hiçbir belirti vermemesiyle gerçekleşebilir. AI-YZ hata mesajı vermez. Sistem çalışmaya devam eder, sadece yanlış başlıklar üzerinde odaklanılır. VE olanlar olur…
Bunu ilk kez canlı olarak gördüğümde, büyük bir finansal kurumun dış dünyadaki milyonlarca müşterisine AI tabanlı iletişim ile hizmet sunmaya çalışan AI-Chatbot'un risk modelini inceliyorduk. Model aylar boyunca kusursuz çalışmıştı. Metrikler iyiydi, uyarılar yoktu. Sonra birisi fark etti: Belirli bir bölgeden gelen küçük esnaf başvuruları sistematik olarak reddediliyordu. Belli meblağ aralığında olan para değerleri kolayca havale edilebiliyordu. Model bozuk değildi. Eğitim verisinde o bölge yeterince temsil edilmemişti. Az veri, daha kötü karar, daha az başvuru, daha az veri. Kendi kendini besleyen bir döngü.
Kimse kasıtlı zarar vermemişti. Ama zarar gerçekti. Hem de öngörülmesi neredeyse imkânsız olacak bir boyuta doğru gidiyordu! Finansal kayıp, marka itibar kaybı, kurumsal ve bireysel mahremiyetler ve çok daha fazlası…
Bu kitap o tür zararları anlamak, görmek ve önlemek için yazıldı. Teknik bilgiye sahip olan ya da olmayan her okura hitap ediyor, çünkü AI sistemleri artık yalnızca veri bilimcilerin meselesi değil. Her kurumsal kararın, her dijital ürünün ve her sektörün içinde yer alıyor.
Her bölüm bir sorunla açılıyor. Teknik bilgi, o sorunun çözümüne giden yolda kendi metriklerini ve kullanım senaryolarını tanımlıyor. Referansları titizlikle seçtim ve doğruladım.
Keyifli okumalar…
