Bir önceki yazımda, Yapay Zeka Güvenliği ile Yapay Zeka’nın güvenlik alanındaki kullanımını, bu iki temel kavram arasındaki farkları ve hangisinin daha öncelikli olması gerektiğini ele almıştım. Bugün başlatacağım yazı dizisinde ise, yapay zeka güvenliği konusundaki öğrendiklerimi ve deneyimlerimi sizlerle paylaşmak istiyorum. Bu yazılarda, öncelikle yapay zeka güvenliğinin geleneksel siber güvenlikten nasıl ayrıldığını, yapay zeka sistemlerinin karşılaşabileceği potansiyel tehditleri ve son zamanlarda gündemimize giren yeni saldırı tekniklerini detaylı bir şekilde inceleyeceğim. Umarım bu bilgiler, yapay zeka güvenliğine dair bakış açınızı geliştirmeye yardımcı olur.

BÖLÜM – 1 –

Yapay Zeka Güvenliğinin Temel Kavramları

Siber güvenliğin temel amacı, dijital varlıkların ve bilgilerin gizliliğini, bütünlüğünü ve erişilebilirliğini korumaktır. Yapay zeka güvenliği uzmanları ise, yapay zeka destekli uygulamalardaki veri ve bilgileri korumak için etkili güvenlik kontrolleri tasarlayıp hayata geçirmelidir.

Yapay Zeka Güvenliği, Geleneksel Siber Güvenlikten Nasıl Farklıdır?

Yapay zeka güvenliği, yapay zekanın öğrenme yetenekleri ve karar alma süreçlerinin doğası gereği, geleneksel siber güvenlikten farklı bir yaklaşım gerektirir. Generative AI modellerinin çıktıları her zaman öngörülebilir olmadığından, bu durum güvenlik kontrollerinin tasarımında zorluklar doğurur. Ayrıca, Generative AI ürünlerinin karmaşık girdi ve çıktıları, güvenlik kontrollerinin uygulanmasını daha da güçleştirir. Kullanıcı arayüzü veya API aracılığıyla saldırı yüzeyini sınırlamak gibi standart güvenlik yöntemleri kullanılabilirken, doğal dil arayüzü için benzer bir yaklaşım uygulandığında sistemin işlevselliği ciddi şekilde zarar görebilir.

Yapay zeka güvenliğine özgü diğer noktalar ise:

• Yapay zeka modeli hırsızlığı
• Yapay zeka modelinin bütünlüğü
• Eğitim verilerinin bütünlüğü
• Yapay zekaya aşırı bağımlılık
• Üretken yapay zekanın öngörülemez (yaratıcı) doğası

Yapay zeka güvenliğiyle ilgili en büyük zorluklardan biri, bu alanın yeni özellikler ve teknolojilerle hızla gelişmesidir. Bu, güvenlik uzmanlarının teknolojinin kapsamı ve yetenekleriyle ilgili güncel kalmasını zorlaştırır ve bu sistemleri güvence altına almak için doğru güvenlik kontrollerinin yerleştirilmesini karmaşık hale getirir.

Yapay Zeka Sistemlerine Özgü Siber Güvenlik Sorunları

Bu sorunları ilerleyen bölümlerde detaylıca ele alacağım için, şimdilik akla gelen başlıca sorunları maddeler halinde sıralamak istedim.

• Gizlilik ihlalleri
• Fikri mülkiyet (IP) ihlali
• Yapay zekaya aşırı bağımlılık
• Politikaları ihlal eden içerik üretimi (örneğin, zararlı, saldırgan veya şiddet içerikli içerik)
• Modelin tehlikeli yeteneklerine erişim (örneğin, tehlikeli veya suç niteliğinde faaliyetler için uygulanabilir talimatlar üretme)
• Karar verme sistemlerinin altını oyma (örneğin, kredi başvurusu veya işe alım sistemi gibi sistemlerin saldırgan tarafından kontrol edilen kararlar üretmesi)

Yapay Zeka Mimari Katmanlarının Güvenliği

Yapay Zeka mimarisinin üç temel katmanını ele alıp, bu katmanların güvenliği açısından bir değerlendirme yapmak, sağlam bir güvenlik altyapısı oluşturmanın temelini oluşturur. Kısaca bu katmanları ve alınabilecek güvenlik önlemlerini şöyle özetleyebilirim:

Yapay Zeka Kullanım Katmanı (AI Usage layer)

Yapay zeka kullanım katmanı, yapay zeka yeteneklerinin nasıl kullanıldığını ve kullanıcılar tarafından nasıl deneyimlendiğini anlatır. Generative AI, diğer bilgisayar arayüzlerinden (API’ler, komut istemleri ya da grafik kullanıcı arayüzleri) oldukça farklı, yeni bir kullanıcı-bilgisayar etkileşimi sunuyor. Bu teknoloji, kullanıcıya ve onun niyetine uyum sağlayarak daha etkileşimli ve dinamik bir deneyim sağlıyor. Önceki sistemlerde kullanıcıların, sistemin tasarımını ve işleyişini öğrenmesi gerekirken, Generative AI, sistemin kullanıcıya uyum sağlamasını mümkün kılıyor.

Bu katmanı korumak, aslında herhangi bir bilgisayar sistemini korumakla benzerlik gösteriyor. Kimlik ve erişim kontrolleri, cihaz güvenliği ve izleme, veri koruma ve yönetişim gibi standart güvenlik önlemleri burada da geçerli.

Yapay Zeka Uygulama Katmanı (AI Application layer)

Yapay zeka uygulama katmanı, uygulamanın yapay zeka yeteneklerine erişmesini ve kullanıcıların deneyimlediği hizmet veya arayüzü sunmasını ifade eder. Bu katmandaki bileşenler, uygulamanın basit veya karmaşık olmasına bağlı olarak farklılık gösterebilir.

Bu katmandaki yapay zeka uygulamasını kötü niyetli aktivitelerden korumak için, yapay zeka modeline gönderilen taleplerin içeriğini detaylı bir şekilde inceleyen bir güvenlik sistemi oluşturmak gerekir. Ayrıca, bu sistemin, eklentiler, veri bağlayıcılar veya diğer yapay zeka uygulamalarıyla (AI Orkestrasyonu olarak bilinir) olan etkileşimleri de yakından takip etmesi önemlidir.

Yapay Zeka Platform Katmanı (AI Platform layer)

Yapay zeka platform katmanı, uygulamalara yapay zeka yeteneklerini sunan bölümdür. Bu katman, API’ler aracılığıyla fonksiyonlara erişim sağlar. API’ler, işlenmesi için yapay zeka modeline bir “Metaprompt” gönderir ve ardından “Prompt-Response” adı verilen oluşturulmuş yanıtı geri döndürür.

Bu platformu kötü niyetli girişlerden korumak için, yapay zeka modeline gönderilen zararlı olabilecek talimatları (girdiler) filtreleyen bir güvenlik sistemi oluşturmak şarttır. Generative AI modelleri üretken olduğu için, bazen zararlı içerik oluşturulup kullanıcıya iletilebilir (çıktılar). Bu nedenle güvenlik sistemi, nefret söylemi, jailbreakler gibi birçok türde zararlı girdilere ve çıktılara karşı kapsamlı bir koruma sağlamalıdır.

İlk bölümü burada sonlandırırken, bir sonraki yazımda, güvenlik önlemlerinin başarısız olmasına yol açabilen önemli bir saldırı tekniği olan AI JailBreak’e değineceğim.