SAP uygulamaları için Azure NetApp Files ile SUSE Linux Enterprise Server üzerinde Azure VM'lerinde SAP NetWeaver için yüksek kullanılabilirlik

Bu makalede, Azure NetApp Files ile SAP NetWeaver uygulaması için yüksek kullanılabilirlik yapılandırması açıklanmaktadır.

SAP Applications 15 için SLES'deki yeni uygulamalar için basit bağlama yapılandırmasında SAP ASCS/ERS için yüksek kullanılabilirlik dağıtmanızı öneririz. BU makalede açıklanan SAP merkezi hizmet dizinleri için küme denetimli dosya sistemlerini temel alan klasik Pacemaker yapılandırması hala desteklenmektedir.

Örnek yapılandırmalarda, yükleme komutlarında vb. ASCS örneği 00, ERS örneği numarası 01, Birincil Uygulama örneği (PAS) 02 ve Uygulama örneği (AAS) 03'tür. SAP Sistem Kimliği QAS kullanılır. Veritabanı katmanı bu makalede ayrıntılı olarak ele alınmıyor.

Önce aşağıdaki SAP Notlarını ve kağıtlarını okuyun:

Genel bakış

SAP Netweaver merkezi hizmetleri için yüksek kullanılabilirlik (HA), paylaşılan depolama gerektirir. Şu ana kadar SUSE Linux'ta bunu başarmak için, yüksek oranda kullanılabilir ayrı NFS kümesi oluşturmak gerekiyordu.

Artık Azure NetApp Files'da dağıtılan paylaşılan depolamayı kullanarak SAP Netweaver HA elde etmek mümkündür. Paylaşılan depolama için Azure NetApp Files'ın kullanılması ek NFS kümesi gereksinimini ortadan kaldırır. Pacemaker, SAP Netweaver merkezi hizmetlerinin (ASCS/SCS) HA'sı için hala gereklidir.

SAP NetWeaver High Availability overview

SAP NetWeaver ASCS, SAP NetWeaver SCS, SAP NetWeaver ERS ve SAP HANA veritabanı sanal ana bilgisayar adı ve sanal IP adresleri kullanır. Azure'da sanal IP adresi kullanmak için yük dengeleyici gerekir. Standart yük dengeleyici kullanmanızı öneririz. Sunulan yapılandırmada aşağıdakilerle bir yük dengeleyici gösterilir:

  • ASCS için ön uç IP adresi 10.1.1.20
  • ERS için ön uç IP adresi 10.1.1.21
  • ASCS için yoklama bağlantı noktası 62000
  • ERS için yoklama bağlantı noktası 62101

Azure NetApp Files altyapısını ayarlama

SAP NetWeaver, aktarım ve profil dizini için paylaşılan depolama gerektirir. Azure NetApp dosyaları altyapısı kurulumuna devam etmeden önce Azure NetApp Files belgeleri hakkında bilgi edinin. Seçtiğiniz Azure bölgesinde Azure NetApp Files olup olmadığını denetleyin. Aşağıdaki bağlantı, Azure bölgesine göre Azure NetApp Files kullanılabilirliğini gösterir: Azure Bölgesine Göre Azure NetApp Files Kullanılabilirliği.

Azure NetApp dosyaları birkaç Azure bölgesinde kullanılabilir.

Azure NetApp Files kaynaklarını dağıtma

Bu adımlarda Azure Sanal Ağ zaten dağıttığınız varsayılır. Azure NetApp Files kaynaklarının ve Azure NetApp Files kaynaklarının bağlanacağı VM'lerin aynı Azure Sanal Ağ veya eşlenmiş Azure Sanal Ağ dağıtılması gerekir.

  1. NetApp Hesabı oluşturma yönergelerini izleyerek seçili Azure bölgesinde NetApp hesabını oluşturun.
  2. Azure NetApp Files kapasite havuzunu ayarlama yönergelerini izleyerek Azure NetApp Files kapasite havuzunu ayarlayın.
    Bu makalede sunulan SAP Netweaver mimarisi, tek bir Azure NetApp Files kapasite havuzu olan Premium SKU'yu kullanır. Azure'da SAP Netweaver uygulama iş yükü için Azure NetApp Files Premium SKU'su önerilir.
  3. Alt ağı Azure NetApp dosyalarına devretme yönergelerinde açıklandığı gibi Azure NetApp Files'a alt ağ atama.
  4. Azure NetApp Files için birim oluşturma yönergelerini izleyerek Azure NetApp Files birimlerini dağıtın. Birimleri belirlenen Azure NetApp Files alt aya dağıtın. Azure NetApp birimlerinin IP adresleri otomatik olarak atanır. Azure NetApp Files kaynaklarının ve Azure VM'lerinin aynı Azure Sanal Ağ veya eşlenmiş Azure Sanal Ağ olması gerektiğini unutmayın. Bu örnekte iki Azure NetApp Files birimi kullanıyoruz: sapQAS ve trans. Karşılık gelen bağlama noktalarına bağlanan dosya yolları /usrsapqas/sapmntQAS, /usrsapqas/usrsapQASsys vb.
    1. volume sapQAS (nfs://10.1.0.4/usrsapqas/sapmntQAS)
    2. volume sapQAS (nfs://10.1.0.4/usrsapqas/usrsapQASascs)
    3. volume sapQAS (nfs://10.1.0.4/usrsapqas/usrsapQASsys)
    4. volume sapQAS (nfs://10.1.0.4/usrsapqas/usrsapQASers)
    5. volume trans (nfs://10.1.0.4/trans)
    6. volume sapQAS (nfs://10.1.0.4/usrsapqas/usrsapQASpas)
    7. volume sapQAS (nfs://10.1.0.4/usrsapqas/usrsapQASaas)

Bu örnekte, Azure NetApp Files'ın nasıl kullanılabileceğini göstermek amacıyla tüm SAP Netweaver dosya sistemleri için Azure NetApp Files'ı kullandık. NFS aracılığıyla takılması gerekmeyen SAP dosya sistemleri, Azure disk depolama alanı olarak da dağıtılabilir. Bu örnekte a-e , Azure NetApp Files üzerinde olmalıdır ve f-g (/usr/sap/QAS/D02, /usr/sap/QAS/D03) Azure disk depolama alanı olarak dağıtılabilir.

Dikkat edilmesi gereken önemli hususlar

SUSE Yüksek Kullanılabilirlik mimarisinde SAP Netweaver için Azure NetApp Files'ı göz önünde bulundururken aşağıdaki önemli noktalara dikkat edin:

  • En düşük kapasite havuzu 4 TiB'dir. Kapasite havuzu boyutu 1 TiB artışlarla artırılabilir.
  • En düşük hacim 100 GiB'dir
  • Azure NetApp Files birimlerinin bağlanacağı Azure NetApp Files ve tüm sanal makineler aynı Azure Sanal Ağ veya aynı bölgedeki eşlenmiş sanal ağlarda olmalıdır. Aynı bölgedeki sanal ağ eşlemesi üzerinden Azure NetApp Files erişimi artık desteklenmektedir. Genel eşleme üzerinden Azure NetApp erişimi henüz desteklenmiyor.
  • Seçilen sanal ağın Azure NetApp Files'a atanmış bir alt ağı olmalıdır.
  • Azure NetApp Files biriminin aktarım hızı ve performans özellikleri, Azure NetApp Files için Hizmet düzeyinde belirtildiği gibi birim kotası ve hizmet düzeyinin bir işlevidir. SAP Azure NetApp birimlerini boyutlandırırken elde edilen aktarım hızının uygulama gereksinimlerini karşıladığından emin olun.
  • Azure NetApp Files dışarı aktarma ilkesi sunar: İzin verilen istemcileri, erişim türünü (Okuma ve Yazma, Salt Okunur vb.) denetleyebilirsiniz.
  • Azure NetApp Files özelliği henüz bölge tanımaz. Şu anda Azure NetApp Files özelliği bir Azure bölgesindeki tüm Kullanılabilirlik alanlarına dağıtılmamaktadır. Bazı Azure bölgelerinde olası gecikme süresi etkilerinin farkında olun.
  • Azure NetApp Files birimleri NFSv3 veya NFSv4.1 birimleri olarak dağıtılabilir. SAP uygulama katmanı (ASCS/ERS, SAP uygulama sunucuları) için her iki protokol de desteklenir.

Altyapıyı hazırlama

SAP Örneği için kaynak aracısı, SAP Uygulamaları için SUSE Linux Enterprise Server'a dahildir. SAP Applications 12 veya 15 için SUSE Linux Enterprise Server görüntüsü Azure Market'de kullanılabilir. Görüntüyü kullanarak yeni VM'ler dağıtabilirsiniz.

Azure portalı aracılığıyla Linux VM'lerini el ile dağıtma

Bu belgede zaten bir kaynak grubu, Azure Sanal Ağ ve alt ağ dağıttığınız varsayılır.

SAP Uygulamaları için SLES görüntüsüyle sanal makineleri dağıtma. SAP sistemi için desteklenen uygun bir SLES görüntüsü sürümü seçin. Sanal makine ölçek kümesi, kullanılabilirlik alanı veya kullanılabilirlik kümesi gibi kullanılabilirlik seçeneklerinden herhangi birinde VM dağıtabilirsiniz.

Azure yük dengeleyiciyi yapılandırma

VM yapılandırması sırasında ağ bölümünde yük dengeleyiciden çıkma seçeneğiniz vardır. SAP ASCS ve SAP ERS'nin yüksek kullanılabilirlik kurulumu için standart bir yük dengeleyici yapılandırmak için aşağıdaki adımları izleyin.

Azure portalını kullanarak yüksek kullanılabilirlik sap sistemi için standart bir yük dengeleyici ayarlamak için yük dengeleyici oluşturma kılavuzunu izleyin. Yük dengeleyici kurulumu sırasında aşağıdaki noktaları göz önünde bulundurun.

  1. Ön Uç IP Yapılandırması: Biri ASCS, diğeri ERS için olan iki ön uç IP'sini oluşturun. ASCS/ERS sanal makinelerinizle aynı sanal ağı ve alt ağı seçin.
  2. Arka Uç Havuzu: Arka uç havuzu oluşturun ve ASCS ve ERS VM'leri ekleyin.
  3. Gelen kuralları: Biri ASCS, diğeri ERS için olan iki yük dengeleme kuralı oluşturun. Her iki yük dengeleme kuralı için de aynı adımları izleyin.
    • Ön uç IP adresi: Ön uç IP'lerini seçin
    • Arka uç havuzu: Arka uç havuzunu seçin
    • "Yüksek kullanılabilirlik bağlantı noktaları" seçeneğini denetleyin
    • Protokol: TCP
    • Durum Yoklaması: Aşağıdaki ayrıntılarla sistem durumu araştırması oluşturun (hem ASCS hem de ERS için geçerlidir)
      • Protokol: TCP
      • Bağlantı noktası: [örneğin: ASCS için 620<Örnek-no,> ERS için 621<Örnek-no]>
      • Aralık: 5
      • Yoklama Eşiği: 2
    • Boşta kalma zaman aşımı (dakika): 30
    • "Kayan IP'yi Etkinleştir" seçeneğini işaretleyin

Not

Portalda "İyi durumda olmayan eşik" olarak bilinen durum yoklaması yapılandırma özelliği numarasıOfProbes'a uyulmaz. Bu nedenle başarılı veya başarısız ardışık yoklama sayısını denetlemek için "probeThreshold" özelliğini 2 olarak ayarlayın. Şu anda Azure portalını kullanarak bu özelliği ayarlamak mümkün olmadığından Azure CLI veya PowerShell komutunu kullanın.

Önemli

Kayan IP, yük dengeleme senaryolarında NIC ikincil IP yapılandırmasında desteklenmez. Ayrıntılar için bkz. Azure Load balancer Sınırlamaları. VM için ek IP adresine ihtiyacınız varsa ikinci bir NIC dağıtın.

Not

Genel IP adresleri olmayan VM'ler iç (genel IP adresi yok) Standart Azure yük dengeleyicinin arka uç havuzuna yerleştirildiğinde, genel uç noktalarına yönlendirmeye izin vermek için ek yapılandırma yapılmadığı sürece giden İnternet bağlantısı olmaz. Giden bağlantı elde etme hakkında ayrıntılı bilgi için bkz. SAP yüksek kullanılabilirlik senaryolarında Azure Standart Load Balancer kullanarak Sanal Makineler için genel uç nokta bağlantısı.

Önemli

  • Azure Load Balancer'ın arkasına yerleştirilen Azure VM'lerinde TCP zaman damgalarını etkinleştirmeyin. TCP zaman damgalarının etkinleştirilmesi sistem durumu yoklamalarının başarısız olmasına neden olur. parametresini net.ipv4.tcp_timestamps olarak 0ayarlayın. Ayrıntılar için bkz . Load Balancer sistem durumu yoklamaları.
  • saptune'un el ile ayarlanan net.ipv4.tcp_timestamps değerini geri ile 0 değiştirmesini önlemek için 1saptune sürümünü 3.1.1 veya üzeri bir sürüme güncelleştirmeniz gerekir. Daha fazla ayrıntı için bkz . saptune 3.1.1 – Güncelleştirmem Gerekiyor mu?.

Kimlik eşlemesini devre dışı bırakma (NFSv4.1 kullanılıyorsa)

Bu bölümdeki yönergeler yalnızca NFSv4.1 protokolü ile Azure NetApp Files birimleri kullanılıyorsa geçerlidir. Azure NetApp Files NFSv4.1 birimlerinin bağlanacağı tüm VM'lerde yapılandırmayı gerçekleştirin.

  1. NFS etki alanı ayarını doğrulayın. Etki alanının varsayılan Azure NetApp Files etki alanı defaultv4iddomain.com olarak yapılandırıldığından ve eşlemenin hiç kimse olarak ayarlandığından emin olun.

    Önemli

    VM'de içindeki NFS etki alanını Azure NetApp Files'daki /etc/idmapd.conf varsayılan etki alanı yapılandırmasıyla eşleşecek şekilde ayarladığınızdan emin olun: defaultv4iddomain.com. NFS istemcisinde (vm) etki alanı yapılandırması ile NFS sunucusu arasında bir uyuşmazlık varsa( örneğin, Azure NetApp yapılandırması), VM'lere bağlanan Azure NetApp birimlerindeki dosyaların izinleri olarak nobodygörüntülenir.

    sudo cat /etc/idmapd.conf
    
    # Example
    [General]
    Verbosity = 0
    Pipefs-Directory = /var/lib/nfs/rpc_pipefs
    Domain = defaultv4iddomain.com
    [Mapping]
    Nobody-User = nobody
    Nobody-Group = nobody
    
  2. [A] öğesini doğrulayın nfs4_disable_idmapping. Y olarak ayarlanmalıdır. Bulunduğu nfs4_disable_idmapping dizin yapısını oluşturmak için bağlama komutunu yürütün. Erişim çekirdek /sürücüler için ayrıldığından dizini /sys/modules altında el ile oluşturamazsınız.

    # Check nfs4_disable_idmapping 
    cat /sys/module/nfs/parameters/nfs4_disable_idmapping
    
    # If you need to set nfs4_disable_idmapping to Y
    mkdir /mnt/tmp
    mount 10.1.0.4:/sapmnt/qas /mnt/tmp
    umount  /mnt/tmp
    echo "Y" > /sys/module/nfs/parameters/nfs4_disable_idmapping
    
    # Make the configuration permanent
    echo "options nfs nfs4_disable_idmapping=Y" >> /etc/modprobe.d/nfs.conf
    

(A)SCS'i ayarlama

Ardından SAP ASCS ve ERS örneklerini hazırlayıp yükleyeceksiniz.

Pacemaker kümesi oluşturma

Bu (A)SCS sunucusu için temel bir Pacemaker kümesi oluşturmak için Azure'da SUSE Linux Enterprise Server'da Pacemaker'ı ayarlama makalesindeki adımları izleyin.

Yükleme

Aşağıdaki öğelere [A] - tüm düğümler için geçerlidir, [1] - yalnızca düğüm 1 veya [2] için geçerlidir - yalnızca düğüm 2 için geçerlidir.

  1. [A] SUSE Bağlan or yükleme

    sudo zypper install sap-suse-cluster-connector
    

    Not

    Ana bilgisayar adlarında tire kullanmayla ilgili bilinen sorun sap-suse-cluster-connector paketinin 3.1.1 sürümüyle düzeltildi. Konak adında tireli küme düğümleri kullanıyorsanız sap-suse-cluster-connector paketinin en az 3.1.1 sürümünü kullandığınızdan emin olun. Aksi takdirde kümeniz çalışmaz.

    SAP SUSE küme bağlayıcısının yeni sürümünü yüklediğinizden emin olun. Eskisine sap_suse_cluster_connector, yenisine sap-suse-cluster-connector adı verilir.

    sudo zypper info sap-suse-cluster-connector
    
    # Information for package sap-suse-cluster-connector:
    # ---------------------------------------------------
    # Repository     : SLE-12-SP3-SAP-Updates
    # Name           : sap-suse-cluster-connector
    # Version        : 3.1.0-8.1
    # Arch           : noarch
    # Vendor         : SUSE LLC <https://www.suse.com/>
    # Support Level  : Level 3
    # Installed Size : 45.6 KiB
    # Installed      : Yes
    # Status         : up-to-date
    # Source package : sap-suse-cluster-connector-3.1.0-8.1.src
    # Summary        : SUSE High Availability Setup for SAP Products
    
  2. [A] SAP kaynak aracılarını güncelleştirme

    Bu makalede açıklanan yeni yapılandırmayı kullanmak için kaynak aracıları paketi için bir düzeltme eki gereklidir. Aşağıdaki komutla düzeltme ekinin zaten yüklü olup olmadığını kontrol edebilirsiniz

    sudo grep 'parameter name="IS_ERS"' /usr/lib/ocf/resource.d/heartbeat/SAPInstance
    

    Çıkış şuna benzer olmalıdır:

    <parameter name="IS_ERS" unique="0" required="0">
    

    grep komutu IS_ERS parametresini bulamazsa SUSE indirme sayfasında listelenen düzeltme ekini yüklemeniz gerekir

    # example for patch for SLES 12 SP1
    sudo zypper in -t patch SUSE-SLE-HA-12-SP1-2017-885=1
    
    # example for patch for SLES 12 SP2
    sudo zypper in -t patch SUSE-SLE-HA-12-SP2-2017-886=1
    
  3. [A] Konak adı çözümlemesi ayarlama

    Bir DNS sunucusu kullanabilir veya tüm düğümlerde /etc/hosts dosyasını değiştirebilirsiniz. Bu örnekte /etc/hosts dosyasının nasıl kullanılacağı gösterilmektedir. Aşağıdaki komutlarda IP adresini ve ana bilgisayar adını değiştirin

    sudo vi /etc/hosts
    

    /etc/hosts öğesine aşağıdaki satırları ekleyin. IP adresini ve ana bilgisayar adını ortamınızla eşleşecek şekilde değiştirme

    # IP address of cluster node 1
    10.1.1.18    anftstsapcl1
    # IP address of cluster node 2
    10.1.1.6     anftstsapcl2
    # IP address of the load balancer frontend configuration for SAP Netweaver ASCS
    10.1.1.20    anftstsapvh
    # IP address of the load balancer frontend configuration for SAP Netweaver ERS
    10.1.1.21    anftstsapers
    
  4. [1] Azure NetApp Files biriminde SAP dizinleri oluşturun.

    Azure NetApp Files birimini vm'lerden birine geçici olarak bağlayın ve SAP dizinlerini (dosya yolları) oluşturun.

    # mount temporarily the volume
    sudo mkdir -p /saptmp
    # If using NFSv3
    sudo mount -t nfs -o rw,hard,rsize=65536,wsize=65536,nfsvers=3,tcp 10.1.0.4:/sapQAS /saptmp
    # If using NFSv4.1
    sudo mount -t nfs -o rw,hard,rsize=65536,wsize=65536,nfsvers=4.1,sec=sys,tcp 10.1.0.4:/sapQAS /saptmp
    # create the SAP directories
    sudo cd /saptmp
    sudo mkdir -p sapmntQAS
    sudo mkdir -p usrsapQASascs
    sudo mkdir -p usrsapQASers
    sudo mkdir -p usrsapQASsys
    sudo mkdir -p usrsapQASpas
    sudo mkdir -p usrsapQASaas
    # unmount the volume and delete the temporary directory
    sudo cd ..
    sudo umount /saptmp
    sudo rmdir /saptmp
    

SAP NetWeaver yüklemesi için hazırlanma

  1. [A] Paylaşılan dizinleri oluşturma

    sudo mkdir -p /sapmnt/QAS
    sudo mkdir -p /usr/sap/trans
    sudo mkdir -p /usr/sap/QAS/SYS
    sudo mkdir -p /usr/sap/QAS/ASCS00
    sudo mkdir -p /usr/sap/QAS/ERS01
    
    sudo chattr +i /sapmnt/QAS
    sudo chattr +i /usr/sap/trans
    sudo chattr +i /usr/sap/QAS/SYS
    sudo chattr +i /usr/sap/QAS/ASCS00
    sudo chattr +i /usr/sap/QAS/ERS01
    
  2. [A] Yapılandır autofs

    sudo vi /etc/auto.master
    
    # Add the following line to the file, save and exit
    /- /etc/auto.direct
    

    NFSv3 kullanıyorsanız şununla bir dosya oluşturun:

    sudo vi /etc/auto.direct
    
    # Add the following lines to the file, save and exit
    /sapmnt/QAS -nfsvers=3,nobind 10.1.0.4:/usrsapqas/sapmntQAS
    /usr/sap/trans -nfsvers=3,nobind 10.1.0.4:/trans
    /usr/sap/QAS/SYS -nfsvers=3,nobind 10.1.0.4:/usrsapqas/usrsapQASsys
    

    NFSv4.1 kullanıyorsanız şununla bir dosya oluşturun:

    sudo vi /etc/auto.direct
    
    # Add the following lines to the file, save and exit
    /sapmnt/QAS -nfsvers=4.1,nobind,sec=sys 10.1.0.4:/usrsapqas/sapmntQAS
    /usr/sap/trans -nfsvers=4.1,nobind,sec=sys 10.1.0.4:/trans
    /usr/sap/QAS/SYS -nfsvers=4.1,nobind,sec=sys 10.1.0.4:/usrsapqas/usrsapQASsys
    

    Not

    Birimleri bağlarken Azure NetApp Files birimlerinin NFS protokolü sürümüyle eşleştiğinden emin olun. Azure NetApp Files birimleri NFSv3 birimleri olarak oluşturulduysa, karşılık gelen NFSv3 yapılandırmasını kullanın. Azure NetApp Files birimleri NFSv4.1 birimleri olarak oluşturulduysa, kimlik eşlemesini devre dışı bırakmak için yönergeleri izleyin ve ilgili NFSv4.1 yapılandırmasını kullandığınızdan emin olun. Bu örnekte Azure NetApp Files birimleri NFSv3 birimleri olarak oluşturulmuştur.

    Yeni paylaşımları bağlamak için yeniden başlatın autofs

    sudo systemctl enable autofs
    sudo service autofs restart
    
  3. [A] SWAP dosyasını yapılandırma

    sudo vi /etc/waagent.conf
    
    # Check if property ResourceDisk.Format is already set to y and if not, set it
    ResourceDisk.Format=y
    
    # Set the property ResourceDisk.EnableSwap to y
    # Create and use swapfile on resource disk.
    ResourceDisk.EnableSwap=y
    
    # Set the size of the SWAP file with property ResourceDisk.SwapSizeMB
    # The free space of resource disk varies by virtual machine size. Make sure that you do not set a value that is too big. You can check the SWAP space with command swapon
    # Size of the swapfile.
    ResourceDisk.SwapSizeMB=2000
    

    Değişikliği etkinleştirmek için Aracıyı yeniden başlatın

    sudo service waagent restart
    

SAP NetWeaver ASCS/ERS Yükleme

  1. [1] ASCS örneği için sanal IP kaynağı ve sistem durumu araştırması oluşturma

    Önemli

    Son testlerde netcat'in yalnızca bir bağlantıyı işleme sınırlaması ve kapsam nedeniyle isteklere yanıt vermeyi durdurduğu durumlar ortaya çıktı. Netcat kaynağı Azure Load balancer isteklerini dinlemeyi durdurur ve kayan IP kullanılamaz duruma gelir.
    Mevcut Pacemaker kümeleri için geçmişte netcat'i socat ile değiştirmenizi öneririz. Şu anda paket kaynak aracılarının parçası olan azure-lb kaynak aracısını aşağıdaki paket sürümü gereksinimleriyle kullanmanızı öneririz:

    • SLES 12 SP4/SP5 için, sürüm en az resource-agents-4.3.018.a7fb5035-3.30.1 olmalıdır.
    • SLES 15/15 SP1 için, sürüm en az resource-agents-4.3.0184.6ee15eb2-4.13.1 olmalıdır.

    Değişikliğin kısa bir kapalı kalma süresi gerektirdiğini unutmayın.
    Mevcut Pacemaker kümelerinde yapılandırma, Azure Load-Balancer Algılama Sağlamlaştırma'da açıklandığı gibi socat kullanacak şekilde zaten değiştirildiyse, hemen azure-lb kaynak aracısına geçiş yapmanız gerekmez.

    sudo crm node standby anftstsapcl2
    
    # If using NFSv3
    sudo crm configure primitive fs_QAS_ASCS Filesystem device='10.1.0.4/usrsapqas/usrsapQASascs' directory='/usr/sap/QAS/ASCS00' fstype='nfs' \
      op start timeout=60s interval=0 \
      op stop timeout=60s interval=0 \
      op monitor interval=20s timeout=40s
    
    # If using NFSv4.1
    sudo crm configure primitive fs_QAS_ASCS Filesystem device='10.1.0.4:/usrsapqas/usrsapQASascs' directory='/usr/sap/QAS/ASCS00' fstype='nfs' options='sec=sys,nfsvers=4.1' \
      op start timeout=60s interval=0 \
      op stop timeout=60s interval=0 \
      op monitor interval=20s timeout=105s
    
    sudo crm configure primitive vip_QAS_ASCS IPaddr2 \
      params ip=10.1.1.20 \
      op monitor interval=10 timeout=20
    
    sudo crm configure primitive nc_QAS_ASCS azure-lb port=62000 \
      op monitor timeout=20s interval=10
    
    sudo crm configure group g-QAS_ASCS fs_QAS_ASCS nc_QAS_ASCS vip_QAS_ASCS \
       meta resource-stickiness=3000
    

    Küme durumunun iyi olduğundan ve tüm kaynakların başlatıldığından emin olun. Kaynakların hangi düğümde çalıştığı önemli değildir.

    sudo crm_mon -r
    
    # Node anftstsapcl2: standby
    # Online: [ anftstsapcl1 ]
    # 
    # Full list of resources:
    #
    # Resource Group: g-QAS_ASCS
    #     fs_QAS_ASCS        (ocf::heartbeat:Filesystem):    Started anftstsapcl1
    #     nc_QAS_ASCS        (ocf::heartbeat:azure-lb):      Started anftstsapcl1
    #     vip_QAS_ASCS       (ocf::heartbeat:IPaddr2):       Started anftstsapcl1
    # stonith-sbd     (stonith:external/sbd): Started anftstsapcl2
    
  2. [1] SAP NetWeaver ASCS'yi yükleme

    ASCS için yük dengeleyici ön uç yapılandırmasının IP adresine eşlenen bir sanal ana bilgisayar adı (örneğin anftstsapvh, 10.1.1.20 ve yük dengeleyicinin yoklaması için kullandığınız örnek numarası, örneğin 00) sap NetWeaver ASCS'yi ilk düğüme kök olarak yükleyin.

    Kök olmayan bir kullanıcının sapinst'e bağlanmasına izin vermek için sapinst parametresi SAPINST_REMOTE_ACCESS_USER kullanabilirsiniz. SANAL konak adını kullanarak SAP'yi yüklemek için parametre SAPINST_USE_HOSTNAME kullanabilirsiniz.

    sudo <swpm>/sapinst SAPINST_REMOTE_ACCESS_USER=sapadmin SAPINST_USE_HOSTNAME=virtual_hostname
    

    Yükleme /usr/sap/QAS/ASCS00 içinde bir alt klasör oluşturamıyorsa ASCS00 klasörünün sahibini ve grubunu ayarlamayı deneyin ve yeniden deneyin.

    chown qasadm /usr/sap/QAS/ASCS00
    chgrp sapsys /usr/sap/QAS/ASCS00
    
  3. [1] ERS örneği için bir sanal IP kaynağı ve sistem durumu araştırması oluşturun.

    sudo crm node online anftstsapcl2
    sudo crm node standby anftstsapcl1
    
    # If using NFSv3
    sudo crm configure primitive fs_QAS_ERS Filesystem device='10.1.0.4:/usrsapqas/usrsapQASers' directory='/usr/sap/QAS/ERS01' fstype='nfs' \
      op start timeout=60s interval=0 \
      op stop timeout=60s interval=0 \
      op monitor interval=20s timeout=40s
    
    # If using NFSv4.1
    sudo crm configure primitive fs_QAS_ERS Filesystem device='10.1.0.4:/usrsapqas/usrsapQASers' directory='/usr/sap/QAS/ERS01' fstype='nfs' options='sec=sys,nfsvers=4.1' \
      op start timeout=60s interval=0 \
      op stop timeout=60s interval=0 \
      op monitor interval=20s timeout=105s
    
    sudo crm configure primitive vip_QAS_ERS IPaddr2 \
      params ip=10.1.1.21 \
      op monitor interval=10 timeout=20
    
    sudo crm configure primitive nc_QAS_ERS azure-lb port=62101 \
      op monitor timeout=20s interval=10
    
    sudo crm configure group g-QAS_ERS fs_QAS_ERS nc_QAS_ERS vip_QAS_ERS
    

    Küme durumunun iyi olduğundan ve tüm kaynakların başlatıldığından emin olun. Kaynakların hangi düğümde çalıştığı önemli değildir.

    sudo crm_mon -r
    
    # Node anftstsapcl1: standby
    # Online: [ anftstsapcl2 ]
    # 
    # Full list of resources:
    #
    # stonith-sbd     (stonith:external/sbd): Started anftstsapcl2
    #  Resource Group: g-QAS_ASCS
    #      fs_QAS_ASCS        (ocf::heartbeat:Filesystem):    Started anftstsapcl2
    #      nc_QAS_ASCS        (ocf::heartbeat:azure-lb):      Started anftstsapcl2
    #      vip_QAS_ASCS       (ocf::heartbeat:IPaddr2):       Started anftstsapcl2
    #  Resource Group: g-QAS_ERS
    #      fs_QAS_ERS (ocf::heartbeat:Filesystem):    Started anftstsapcl2
    #      nc_QAS_ERS (ocf::heartbeat:azure-lb):      Started anftstsapcl2
    #      vip_QAS_ERS  (ocf::heartbeat:IPaddr2):     Started anftstsapcl2
    
  4. [2] SAP NetWeaver ERS yükleme

    SAP NetWeaver ERS'yi, ERS için yük dengeleyici ön uç yapılandırmasının IP adresine eşlenen bir sanal konak adı (örneğin anftstsapers, 10.1.1.21 ve yük dengeleyicinin yoklaması için kullandığınız örnek numarası, örneğin 01) kullanarak ikinci düğüme kök olarak yükleyin.

    Kök olmayan bir kullanıcının sapinst'e bağlanmasına izin vermek için sapinst parametresi SAPINST_REMOTE_ACCESS_USER kullanabilirsiniz. SANAL konak adını kullanarak SAP'yi yüklemek için parametre SAPINST_USE_HOSTNAME kullanabilirsiniz.

    sudo <swpm>/sapinst SAPINST_REMOTE_ACCESS_USER=sapadmin SAPINST_USE_HOSTNAME=virtual_hostname
    

    Not

    SWPM SP 20 PL 05 veya üzerini kullanın. Alt sürümler izinleri doğru ayarlamaz ve yükleme başarısız olur.

    Yükleme /usr/sap/QAS/ERS01'de bir alt klasör oluşturamazsa, ERS01 klasörünün sahibini ve grubunu ayarlamayı deneyin ve yeniden deneyin.

    chown qasadm /usr/sap/QAS/ERS01
    chgrp sapsys /usr/sap/QAS/ERS01
    
  5. [1] ASCS/SCS ve ERS örnek profillerini uyarlama

    • ASCS/SCS profili

      sudo vi /sapmnt/QAS/profile/QAS_ASCS00_anftstsapvh
      
      # Change the restart command to a start command
      #Restart_Program_01 = local $(_EN) pf=$(_PF)
      Start_Program_01 = local $(_EN) pf=$(_PF)
      
      # Add the following lines
      service/halib = $(DIR_CT_RUN)/saphascriptco.so
      service/halib_cluster_connector = /usr/bin/sap_suse_cluster_connector
      
      # Add the keep alive parameter, if using ENSA1
      enque/encni/set_so_keepalive = true
      

      Hem ENSA1 hem de ENSA2 için işletim sistemi parametrelerinin keepalive SAP not 1410736 açıklandığı gibi ayarlandığından emin olun.

    • ERS profili

      sudo vi /sapmnt/QAS/profile/QAS_ERS01_anftstsapers
      
      # Change the restart command to a start command
      #Restart_Program_00 = local $(_ER) pf=$(_PFL) NR=$(SCSID)
      Start_Program_00 = local $(_ER) pf=$(_PFL) NR=$(SCSID)
      
      # Add the following lines
      service/halib = $(DIR_CT_RUN)/saphascriptco.so
      service/halib_cluster_connector = /usr/bin/sap_suse_cluster_connector
      
      # remove Autostart from ERS profile
      # Autostart = 1
      
  6. [A] Canlı Tut'un yapılandırılması

    SAP NetWeaver uygulama sunucusu ile ASCS/SCS arasındaki iletişim bir yazılım yük dengeleyici aracılığıyla yönlendirilir. Yük dengeleyici, yapılandırılabilir bir zaman aşımından sonra etkin olmayan bağlantıların bağlantısını keser. Bunu önlemek için, ENSA1 kullanıyorsanız SAP NetWeaver ASCS/SCS profilinde bir parametre ayarlamanız ve her iki ENSA1/ENSA2 için tüm SAP sunucularındaki Linux sistem keepalive ayarlarını değiştirmeniz gerekir. Daha fazla bilgi için SAP Not 1410736 makalesini okuyun.

    # Change the Linux system configuration
    sudo sysctl net.ipv4.tcp_keepalive_time=300
    
  7. [A] Yüklemeden sonra SAP kullanıcılarını yapılandırma

    # Add sidadm to the haclient group
    sudo usermod -aG haclient qasadm
    
  8. [1] ASCS ve ERS SAP hizmetlerini dosyaya sapservice ekleyin

    ASCS hizmet girişini ikinci düğüme ekleyin ve ERS hizmet girdisini ilk düğüme kopyalayın.

    cat /usr/sap/sapservices | grep ASCS00 | sudo ssh anftstsapcl2 "cat >>/usr/sap/sapservices"
    sudo ssh anftstsapcl2 "cat /usr/sap/sapservices" | grep ERS01 | sudo tee -a /usr/sap/sapservices
    
  9. [1] SAP kümesi kaynaklarını oluşturun.

    BIR ENSA1 veya ENSA2 sistemi çalıştırıp çalıştırmadığınıza bağlı olarak, kaynakları tanımlamak için ilgili sekmeyi seçin. SAP, SAP NetWeaver 7.52'de çoğaltma dahil olmak üzere ENSA2 için destek kullanıma sunulmuştur. ABAP Platform 1809'dan itibaren ENSA2 varsayılan olarak yüklenir. ENSA2 desteği için bkz. SAP Not 2630416.

    sudo crm configure property maintenance-mode="true"
    
    # If using NFSv3
    sudo crm configure primitive rsc_sap_QAS_ASCS00 SAPInstance \
        operations \$id=rsc_sap_QAS_ASCS00-operations \
        op monitor interval=11 timeout=60 on-fail=restart \
        params InstanceName=QAS_ASCS00_anftstsapvh START_PROFILE="/sapmnt/QAS/profile/QAS_ASCS00_anftstsapvh" \
        AUTOMATIC_RECOVER=false \
        meta resource-stickiness=5000 failure-timeout=60 migration-threshold=1 priority=10
    
    # If using NFSv4.1
    sudo crm configure primitive rsc_sap_QAS_ASCS00 SAPInstance \
        operations \$id=rsc_sap_QAS_ASCS00-operations \
        op monitor interval=11 timeout=105 on-fail=restart \
        params InstanceName=QAS_ASCS00_anftstsapvh START_PROFILE="/sapmnt/QAS/profile/QAS_ASCS00_anftstsapvh" \
        AUTOMATIC_RECOVER=false \
        meta resource-stickiness=5000 failure-timeout=105 migration-threshold=1 priority=10
    
    # If using NFSv3   
    sudo crm configure primitive rsc_sap_QAS_ERS01 SAPInstance \
        operations \$id=rsc_sap_QAS_ERS01-operations \
        op monitor interval=11 timeout=60 on-fail=restart \
        params InstanceName=QAS_ERS01_anftstsapers START_PROFILE="/sapmnt/QAS/profile/QAS_ERS01_anftstsapers" AUTOMATIC_RECOVER=false IS_ERS=true \
        meta priority=1000
    
    # If using NFSv4.1
    sudo crm configure primitive rsc_sap_QAS_ERS01 SAPInstance \
        operations \$id=rsc_sap_QAS_ERS01-operations \
        op monitor interval=11 timeout=105 on-fail=restart \
        params InstanceName=QAS_ERS01_anftstsapers START_PROFILE="/sapmnt/QAS/profile/QAS_ERS01_anftstsapers" AUTOMATIC_RECOVER=false IS_ERS=true \
        meta priority=1000
    
    sudo crm configure modgroup g-QAS_ASCS add rsc_sap_QAS_ASCS00
    sudo crm configure modgroup g-QAS_ERS add rsc_sap_QAS_ERS01
    
    sudo crm configure colocation col_sap_QAS_no_both -5000: g-QAS_ERS g-QAS_ASCS
    sudo crm configure location loc_sap_QAS_failover_to_ers rsc_sap_QAS_ASCS00 rule 2000: runs_ers_QAS eq 1
    sudo crm configure order ord_sap_QAS_first_start_ascs Optional: rsc_sap_QAS_ASCS00:start rsc_sap_QAS_ERS01:stop symmetrical=false
    
    sudo crm_attribute --delete --name priority-fencing-delay
    
    sudo crm node online anftstsapcl1
    sudo crm configure property maintenance-mode="false"
    

Eski bir sürümden yükseltme yapıyor ve sunucu 2'yi sıralamaya geçiyorsanız bkz. SAP notu 2641019.

Not

NFSv4.1 kullanırken önerilen daha yüksek zaman aşımları, NFSv4.1 kira yenilemeleriyle ilgili protokole özgü duraklatma nedeniyle gereklidir. Daha fazla bilgi için bkz . NetApp'te NFS En iyi yöntem.

Yukarıdaki yapılandırmadaki zaman aşımlarının belirli SAP kurulumuna uyarlanması gerekebilir.

Küme durumunun iyi olduğundan ve tüm kaynakların başlatıldığından emin olun. Kaynakların hangi düğümde çalıştığı önemli değildir.

sudo crm_mon -r
  
# Full list of resources:
#
# stonith-sbd     (stonith:external/sbd): Started anftstsapcl2
#  Resource Group: g-QAS_ASCS
#      fs_QAS_ASCS        (ocf::heartbeat:Filesystem):    Started anftstsapcl1
#      nc_QAS_ASCS        (ocf::heartbeat:azure-lb):      Started anftstsapcl1
#      vip_QAS_ASCS       (ocf::heartbeat:IPaddr2):       Started anftstsapcl1
#      rsc_sap_QAS_ASCS00 (ocf::heartbeat:SAPInstance):   Started anftstsapcl1
#  Resource Group: g-QAS_ERS
#      fs_QAS_ERS (ocf::heartbeat:Filesystem):    Started anftstsapcl2
#      nc_QAS_ERS (ocf::heartbeat:azure-lb):      Started anftstsapcl2
#      vip_QAS_ERS        (ocf::heartbeat:IPaddr2):       Started anftstsapcl2
#      rsc_sap_QAS_ERS01  (ocf::heartbeat:SAPInstance):   Started anftstsapcl2

SAP NetWeaver uygulama sunucusu hazırlığı

Bazı veritabanları, veritabanı örneği yüklemesinin bir uygulama sunucusunda yürütülmesini gerektirir. Uygulama sunucusu sanal makinelerini bu durumlarda kullanabilmek için hazırlayın.

Adımlarda uygulama sunucusunu ASCS/SCS ve HANA sunucularından farklı bir sunucuya yüklediğiniz varsayılır. Aksi takdirde aşağıdaki adımlardan bazıları (ana bilgisayar adı çözümlemesini yapılandırma gibi) gerekli değildir.

Aşağıdaki öğelere [A] ön eki eklenmiştir: hem PAS hem de AAS için geçerlidir, [P] - yalnızca PAS veya [S] için geçerlidir- yalnızca AAS için geçerlidir.

  1. [A] İşletim sistemini yapılandırma

    Kirli önbelleğin boyutunu küçültün. Daha fazla bilgi için bkz . Büyük RAM'e sahip SLES 11/12 sunucularında düşük yazma performansı.

    sudo vi /etc/sysctl.conf
    
    # Change/set the following settings
    vm.dirty_bytes = 629145600
    vm.dirty_background_bytes = 314572800
    
  2. [A] Konak adı çözümlemesi ayarlama

    Bir DNS sunucusu kullanabilir veya tüm düğümlerde /etc/hosts dosyasını değiştirebilirsiniz. Bu örnekte /etc/hosts dosyasının nasıl kullanılacağı gösterilmektedir. Aşağıdaki komutlarda IP adresini ve ana bilgisayar adını değiştirin

    sudo vi /etc/hosts
    

    /etc/hosts öğesine aşağıdaki satırları ekleyin. IP adresini ve ana bilgisayar adını ortamınızla eşleşecek şekilde değiştirme

    # IP address of the load balancer frontend configuration for SAP NetWeaver ASCS/SCS
    10.1.1.20 anftstsapvh
    # IP address of the load balancer frontend configuration for SAP NetWeaver ERS
    10.1.1.21 anftstsapers
    # IP address of all application servers
    10.1.1.15 anftstsapa01
    10.1.1.16 anftstsapa02
    
  3. [A] sapmnt dizinini oluşturma

    sudo mkdir -p /sapmnt/QAS
    sudo mkdir -p /usr/sap/trans
    
    sudo chattr +i /sapmnt/QAS
    sudo chattr +i /usr/sap/trans
    
  4. [P] PAS dizinini oluşturma

    sudo mkdir -p /usr/sap/QAS/D02
    sudo chattr +i /usr/sap/QAS/D02
    
  5. [S] AAS dizinini oluşturma

    sudo mkdir -p /usr/sap/QAS/D03
    sudo chattr +i /usr/sap/QAS/D03
    
  6. [P] PAS üzerinde yapılandırma autofs

    sudo vi /etc/auto.master
    
    # Add the following line to the file, save and exit
    /- /etc/auto.direct
    

    NFSv3 kullanıyorsanız şununla yeni bir dosya oluşturun:

    sudo vi /etc/auto.direct
    
    # Add the following lines to the file, save and exit
    /sapmnt/QAS -nfsvers=3,nobind 10.1.0.4:/usrsapqas/sapmntQAS
    /usr/sap/trans -nfsvers=3,nobind 10.1.0.4:/trans
    /usr/sap/QAS/D02 -nfsvers=3,nobind 10.1.0.4:/usrsapqas/usrsapQASpas
    

    NFSv4.1 kullanıyorsanız şununla yeni bir dosya oluşturun:

    sudo vi /etc/auto.direct
    # Add the following lines to the file, save and exit
    /sapmnt/QAS -nfsvers=4.1,nobind,sec=sys 10.1.0.4:/usrsapqas/sapmntQAS
    /usr/sap/trans -nfsvers=4.1,nobind,sec=sys 10.1.0.4:/trans
    /usr/sap/QAS/D02 -nfsvers=4.1,nobind,sec=sys 10.1.0.4:/usrsapqas/usrsapQASpas
    

    Yeni paylaşımları bağlamak için yeniden başlatın autofs

    sudo systemctl enable autofs
    sudo service autofs restart
    
  7. [P] AAS'de yapılandırma autofs

    sudo vi /etc/auto.master
    
    # Add the following line to the file, save and exit
    /- /etc/auto.direct
    

    NFSv3 kullanıyorsanız şununla yeni bir dosya oluşturun:

    sudo vi /etc/auto.direct
    
    # Add the following lines to the file, save and exit
    /sapmnt/QAS -nfsvers=3,nobind 10.1.0.4:/usrsapqas/sapmntQAS
    /usr/sap/trans -nfsvers=3,nobind 10.1.0.4:/trans
    /usr/sap/QAS/D03 -nfsvers=3,nobind 10.1.0.4:/usrsapqas/usrsapQASaas
    

    NFSv4.1 kullanıyorsanız şununla yeni bir dosya oluşturun:

    sudo vi /etc/auto.direct
    
    # Add the following lines to the file, save and exit
    /sapmnt/QAS -nfsvers=4.1,nobind,sec=sys 10.1.0.4:/usrsapqas/sapmntQAS
    /usr/sap/trans -nfsvers=4.1,nobind,sec=sys 10.1.0.4:/trans
    /usr/sap/QAS/D03 -nfsvers=4.1,nobind,sec=sys 10.1.0.4:/usrsapqas/usrsapQASaas
    

    Yeni paylaşımları bağlamak için yeniden başlatın autofs

    sudo systemctl enable autofs
    sudo service autofs restart
    
  8. [A] SWAP dosyasını yapılandırma

    sudo vi /etc/waagent.conf
    
    # Set the property ResourceDisk.EnableSwap to y
    # Create and use swapfile on resource disk.
    ResourceDisk.EnableSwap=y
    
    # Set the size of the SWAP file with property ResourceDisk.SwapSizeMB
    # The free space of resource disk varies by virtual machine size. Make sure that you do not set a value that is too big. You can check the SWAP space with command swapon
    # Size of the swapfile.
    ResourceDisk.SwapSizeMB=2000
    

    Değişikliği etkinleştirmek için Aracıyı yeniden başlatın

    sudo service waagent restart
    

Veritabanını yükleme

Bu örnekte SAP HANA'ya SAP NetWeaver yüklenmiştir. Bu yükleme için desteklenen tüm veritabanlarını kullanabilirsiniz. SAP HANA'yı Azure'a yükleme hakkında daha fazla bilgi için bkz. Azure Sanal Makineler'de SAP HANA'nın Yüksek Kullanılabilirliği (VM). Desteklenen veritabanlarının listesi için bkz . SAP Not 1928533.

  • SAP veritabanı örneği yüklemesini çalıştırma

    SAP NetWeaver veritabanı örneğini, veritabanının yük dengeleyici ön uç yapılandırmasının IP adresiyle eşlenen bir sanal konak adı kullanarak kök olarak yükleyin.

    Kök olmayan bir kullanıcının sapinst'e bağlanmasına izin vermek için sapinst parametresi SAPINST_REMOTE_ACCESS_USER kullanabilirsiniz.

    sudo <swpm>/sapinst SAPINST_REMOTE_ACCESS_USER=sapadmin
    

SAP NetWeaver uygulama sunucusu yüklemesi

SAP uygulama sunucusu yüklemek için bu adımları izleyin.

  1. [A] Uygulama sunucusunu hazırlama Uygulama sunucusunu hazırlamak için yukarıdaki SAP NetWeaver uygulama sunucusu hazırlığı bölümünde yer alan adımları izleyin.

  2. [A] SAP NetWeaver uygulama sunucusunu yükleme Birincil veya ek bir SAP NetWeaver uygulama sunucusu yükleyin.

    Kök olmayan bir kullanıcının sapinst'e bağlanmasına izin vermek için sapinst parametresi SAPINST_REMOTE_ACCESS_USER kullanabilirsiniz.

    sudo <swpm>/sapinst SAPINST_REMOTE_ACCESS_USER=sapadmin
    
  3. [A] SAP HANA güvenli depolarını güncelleştirme

    SAP HANA güvenli depoyu, SAP HANA Sistem Çoğaltma kurulumunun sanal adına işaret eden şekilde güncelleştirin.

    Girdileri listelemek için aşağıdaki komutu çalıştırın

    hdbuserstore List
    

    Bu, tüm girdileri listelemeli ve şuna benzer görünmelidir:

    DATA FILE       : /home/qasadm/.hdb/anftstsapa01/SSFS_HDB.DAT
    KEY FILE        : /home/qasadm/.hdb/anftstsapa01/SSFS_HDB.KEY
    
    KEY DEFAULT
      ENV : 10.1.1.5:30313
      USER: SAPABAP1
      DATABASE: QAS
    

    Çıktı, varsayılan girdinin IP adresinin yük dengeleyicinin IP adresine değil sanal makineyi işaret ettiğini gösterir. Bu girişin yük dengeleyicinin sanal konak adına işaret etmesi için değiştirilmesi gerekir. Aynı bağlantı noktasını (yukarıdaki çıkışta 30313 ) ve veritabanı adını (yukarıdaki çıktıda QAS ) kullandığınızdan emin olun!

    su - qasadm
    
    hdbuserstore SET DEFAULT qasdb:30313@QAS SAPABAP1 <password of ABAP schema>
    

Küme kurulumunu test edin

Pacemaker kümenizi kapsamlı bir şekilde test edin. Tipik yük devretme testlerini yürütür.

Sonraki adımlar