Yapay zeka mimarisi katmanları
Yapay zekaya karşı saldırıların nasıl gerçekleşebileceğini anlamak için, yapay zeka mimarisini sergide gösterildiği gibi üç katmana ayırabilirsiniz:
- Yapay Zeka Kullanımı katmanı
- AI Uygulama katmanı
- Yapay Zeka Platformu katmanı
Yapay zeka kullanım katmanı
Yapay zeka kullanım katmanı, yapay zeka özelliklerinin nihai olarak nasıl kullanıldığını ve kullanıldığını açıklar. Üretken yapay zeka, diğer bilgisayar arabirimlerinden (API, komut istemi ve grafik kullanıcı arabirimleri (GUI) temelde farklı olan yeni bir kullanıcı/bilgisayar arabirimi türü sunar. Hem etkileşimli hem de dinamik olan yapay zeka arabirimi, bilgisayar özelliklerinin kullanıcıya ve amacına göre ayarlanmasını sağlar. Bu, öncelikli olarak kullanıcıları hedeflerine ulaşmak için sistem tasarımını ve işlevselliğini öğrenmeye zorlayan önceki arabirimlerle karşıttır. Bu etkileşim, kullanıcı girişinin sistemin çıkışını (uygulama tasarımcılarına karşı) yüksek düzeyde etkilemesini sağlar ve güvenlik korumalarını kişileri, verileri ve iş varlıklarını korumak için kritik hale getirir.
Yapay zeka kullanım katmanında yapay zekanın korunması, kimlik ve erişim denetimleri, cihaz korumaları ve izleme, veri koruma ve idare, yönetim denetimleri ve diğer denetimler için güvenlik güvencelerine bağlı olduğundan tüm bilgisayar sistemini korumaya benzer.
Kullanıcıların sistemlerin çıkışı üzerindeki etkisinin artması nedeniyle kullanıcı davranışı ve sorumluluğu üzerinde ek vurgu yapılması gerekir. Kabul edilebilir kullanım ilkelerini güncelleştirmek ve kullanıcıları bu ilkeler hakkında eğitmek kritik önem taşır. Bunlar güvenlik, gizlilik ve etik ile ilgili yapay zekaya özgü konuları içermelidir. Ayrıca, kullanıcıların ikna edici sahte metinler, sesler, videolar ve daha fazlası ile onları kandırmak için kullanılabilecek yapay zeka tabanlı saldırılar hakkında eğitilmesi gerekir.
Yapay zeka uygulama katmanı
Yapay zeka uygulama katmanında uygulama, yapay zeka özelliklerine erişir ve kullanıcı tarafından kullanılan hizmeti veya arabirimi sağlar. Bu katmandaki bileşenler, uygulamaya bağlı olarak görece basitten son derece karmaşıklığa kadar değişebilir. En basit tek başına yapay zeka uygulamaları, metin tabanlı kullanıcı istemi ̧ alan ve bu verileri yanıt için modele geçiren bir dizi API'nin arabirimi görevi görür. Daha karmaşık yapay zeka uygulamaları, kullanıcı istemini kalıcılık katmanı, semantik dizin ̧ veya ek veri kaynaklarına erişim izni vermek için eklentiler aracılığıyla dahil olmak üzere ek bağlamla temel alma özelliğini içerir. Gelişmiş yapay zeka uygulamaları, mevcut uygulamalar ve sistemlerle de arabirim oluşturabilecek; bunlar çeşitli içerik türleri oluşturmak için metin, ses ve görüntüler arasında çalışabilir.
Yapay zeka uygulamasını bu katmandaki kötü amaçlı etkinliklerden korumak için, yapay zeka modeline gönderilen istekte kullanılan içeriğin ve eklentiler, veri bağlayıcıları ve diğer yapay zeka uygulamalarıyla etkileşimlerin (AI Orchestration olarak bilinir) ayrıntılı bir şekilde denetlenmesini sağlamak için bir uygulama güvenlik sistemi oluşturulmalıdır.
Yapay zeka platformu katmanı
Yapay zeka platformu katmanı, uygulamalara yapay zeka özellikleri sağlar. Platform katmanında yapay zeka modelini çalıştıran altyapıyı, eğitim verilerini ve modelin davranışını değiştiren ağırlıklar ve sapmalar gibi belirli yapılandırmaları oluşturma ve koruma ihtiyacı vardır. Bu katman API'ler aracılığıyla işlevlere erişim sağlar. Bu sayede metaprompt olarak bilinen metinler işlenmek üzere yapay zeka modeline geçirilecek ve ardından prompt-Response olarak bilinen oluşturulan sonucu döndürecektir.
Yapay zeka platformunu kötü amaçlı girişlerden korumak için, yapay zeka modeline (girişler) gönderilen zararlı olabilecek yönergeleri filtrelemek için bir güvenlik sistemi oluşturulmalıdır. Yapay zeka modelleri üretken olduğundan, bazı zararlı içeriklerin oluşturulup kullanıcıya döndürülme olasılığı da vardır (çıkışlar). Tüm güvenlik sistemleri öncelikle nefret, jailbreak ve diğerleri gibi birçok sınıflandırmanın zararlı olabilecek giriş ve çıkışlarına karşı koruma sağlamalıdır. Sınıflandırmalar büyük olasılıkla model bilgilerine, yerel ayara ve sektöre göre zaman içinde gelişecektir.