Not
Bu sayfaya erişim yetkilendirme gerektiriyor. Oturum açmayı veya dizinleri değiştirmeyi deneyebilirsiniz.
Bu sayfaya erişim yetkilendirme gerektiriyor. Dizinleri değiştirmeyi deneyebilirsiniz.
Microsoft'un AI Red Teaming 101 eğitim serisi , profesyonellerin gelişmekte olan tehditlere karşı üretken yapay zeka sistemlerinin güvenliğini sağlamalarına yardımcı olur. Bu seri güvenlik açıklarını, saldırı tekniklerini ve savunma stratejilerini inceleyerek eyleme dönüştürülebilir içgörüler ve uygulamalı deneyim sağlar. İster güvenlik uzmanı, makine öğrenmesi mühendisi ister iş lideri olun, gerçek dünya örnek olay incelemeleri, modüler bölümler ve otomatik test araçları aracılığıyla pratik bilgi edineceksiniz. Yapay zeka güvenliği uzmanlığınızı geliştirmek için hızlı ekleme saldırıları, çok yönlü saldırgan teknikler ve ölçeklenebilir savunma yöntemleri gibi konuları keşfedin.
Neden bu eğitim serisini izleyin?
Üretken yapay zeka sistemlerindeki kritik güvenlik açıklarını tanımlamaya, kötüye kullanmaya ve bu güvenlik açıklarına karşı savunmaya yardımcı olmak için eyleme dönüştürülebilir öneriler alın. Microsoft'un Yapay Zeka Kırmızı Ekibi'nden alınan gerçek dünya derslerini temel alan en iyi yöntemleri, teknikleri ve yönergeleri öğrenin.
Bu eğitim serisini kimler izlemeli?
Eğitim serisi güvenlik ekipleri, ML mühendisleri, yapay zeka uygulayıcıları ve yapay zeka ile çalışan iş liderleri için kullanışlıdır. Öncelikle şu konulara odaklanır:
- Güvenlik uzmanları: Yapay zekaya özgü saldırı vektörleri ve savunma stratejileri hakkında bilgi edinin.
- ML uygulayıcıları ve yapay zeka mühendisleri: Yapay zeka geliştirme iş akışlarına güvenlik testi ekleyin.
- Kurumsal ve güvenlik mimarları: Güvenli yapay zeka sistemleri oluşturun ve yeni ortaya çıkan tehditleri keşfedin.
Tavsiye
AI Red Teaming 101 videoları modülerdir, bu nedenle ilginizi çekebilecek herhangi bir bölüme atlayabilir veya başlangıçtan başlayıp hepsini izleyebilirsiniz. Slaytları indirin ve kendi hızınızda ilerleyin.
Eğitim serisinde neler var?
Eğitim serisi, üretken yapay zeka güvenlik açıklarını anlama, saldırı tekniklerini yürütme ve savunma önlemleri uygulama konusunda rehberlik sağlar. Atölyede Microsoft'un üretim yapay zekası güvenlik uygulamalarını temel alan uygulamalı tanıtımlar, gerçek dünya örnek olay incelemeleri ve otomatik test araçları yer alıyor.
Tavsiye
Tüm bölümler uygulamalı demolar ve pratik deneyim kazanmak için Microsoft'un kırmızı ekip oluşturma laboratuvarlarına erişim içerir.
Giriş ve Temel Bilgiler
Bölüm 1: Yapay zeka kırmızı grubu oluşturma nedir? - Kırmızı ekip yapay zeka temellerine giriş, üretken yapay zekadaki önemli riskler ve Microsoft'un kırmızı ekibinin misyonu
Bölüm 2: Üretken Yapay Zeka Modelleri Nasıl Çalışır ? Model mimarisini, eğitim aşamalarını ve bu modellerin neden benzersiz güvenlik riskleri oluşturacağını anlama
Bölüm A - Çekirdek Saldırı Teknikleri
Bölüm 3: Doğrudan istem ekleme açıklandı - Saldırganlar 1 $ SUV sohbet botu saldırısı gibi gerçek dünya örnek olay incelemeleri de dahil olmak üzere kötü amaçlı yönergeler ekleyerek model davranışını nasıl manipüle eder?
Bölüm 4: Dolaylı İstem Ekleme Açıklaması - Kötü amaçlı yönergelerin e-postalar, web siteleri veya veritabanları gibi dış veri kaynaklarında gizlendiği gizli saldırılar
Bölüm 5: Single-Turn Saldırıları - Kodlama püf noktalarıyla kişilik hackleme, duygusal manipülasyon ve filtre kaçışı gibi gelişmiş istem mühendisliği teknikleri
Bölüm 6: Çok Dönüşlü Saldırılar - Modelleri aşamalı olarak güvenlik korumalarını atlama yönünde yönlendiren Skeleton Key ve Crescendo gibi teknikler
Bölüm B - Savunma ve Risk Azaltma
Bölüm 7: Saldırılara karşı savunma - Microsoft'un öne çıkan savunma yöntemleri (sınırlandırma, veri işaretleme ve kodlama) dahil olmak üzere risk azaltma stratejileri ve koruma teknikleri
Bölüm C - Otomasyon ve Ölçek
Bölüm 8: PyRIT ile yapay zeka kırmızı takımını otomatikleştirme - Microsoft'un üretici yapay zeka sistemlerinin düşmanca testlerini otomatikleştirmeye ve ölçeklendirmeye yönelik açık kaynak aracına giriş, Python Risk Belirleme Aracı (PyRIT)
Bölüm 9: Single-Turn Saldırılarını Otomatikleştirme - PyRIT kullanarak aynı anda birçok istem göndermek için veri kümelerini, hedefleri ve puanlama mantığını yapılandırmayı uygulamalı olarak gösterme
Bölüm 10: Çoklu Dönüş Saldırılarını Otomatikleştirme - Saldırgan model konuşmaları ve hem metin hem de görüntü oluşturma sistemlerini test etme dahil olmak üzere çok aşamalı konuşmalar için gelişmiş otomasyon teknikleri
Öğrendikleriniz
Bu eğitim serisini tamamladıktan sonra şunları anlayacaksınız:
- Yapay zeka red teaming ve geleneksel red teaming yaklaşımlarının temelleri
- İstem ekleme ve model yanlış hizalaması gibi üretken yapay zeka sistemlerindeki temel güvenlik açıkları
- Basit istem işlemeden karmaşık çok dönüşlü saldırgan stratejilere kadar saldırı teknikleri
- Microsoft'un Öne Çıkarma yöntemleri gibi kanıtlanmış risk azaltma teknikleri de dahil olmak üzere savunma stratejileri
- PyRIT ve diğer açık kaynak araçları kullanarak kırmızı ekip oluşturma çalışmalarını ölçeklendirmeye yönelik otomasyon araçları
- Microsoft'un üretim bazlı yapay zeka güvenlik çalışmalarından uygulamalı laboratuvarlar ve örnek olay incelemeleri ile gerçek dünya uygulamaları