Não consigo apagar um arquivo .exe de instalação.

Olá JhonnathanMaia, tudo bem? 

Bem-vindo à Comunidade da Microsoft!

Entendo que ao excluir um o arquivo.exe de um programa apresenta erro.

Em primeiro momento eu sugiro que siga os procedimentos abaixo:

Etapa 1: 

Desabilite todos os programas de terceiros, ou seja, uma Inicialização limpa, para verificar se alguns dos programas instalados em seu computador possam estar provocando esse comportamento.

Para inicialização limpa siga os passos abaixo:

1. Na Área de Trabalho, pressione simultaneamente as teclas Windows + R para abrir o Executar;
2. No Executar digite MSCONFIG e clique em OK para abrir a Configuração do Sistema;
3. Na guia Serviços, assinale a opção Ocultar todos serviços Microsoft e clique em Desativar Tudo;
4. Clique em Aplicar e em OK;
5. Reinicie o computador.

NOTA: Este procedimento desabilita todos serviços e programas de terceiros. Você pode posteriormente, se o problema for solucionado desta forma, habilitar os programas e serviços que serão inicializados com o Windows, seletivamente, ao invés de manter todos desativados. Se o problema voltar após ativação da inicialização de um serviço ou programa em especifico, o problema está exatamente na inicialização deste software e é recomendável removê-lo.

Etapa 2: 

Reinicie o computador e tente novamente.  

Etapa 3: 

Limpe os arquivos temporários do sistema:  

1. Na Área de Trabalho, pressione simultaneamente as teclas de atalho Windows + R para abrir o Executar.
2. Agora digite TEMP e clique em OK.
3. Será aberta a pasta TEMP, por favor, exclua permanentemente todos os arquivos dentro da pasta, se alguns arquivos não forem apagados será normal pois os mesmos podem estar em uso.
4. Novamente pressione simultaneamente as teclas de atalho Windows + R para abrir o Executar.
5. Digite %TEMP% e clique em OK.
6. Será aberta a pasta %TEMP%, por favor, exclua permanentemente todos os arquivos dentro da pasta, se alguns arquivos não forem apagados será normal pois os mesmos podem estar em uso.
7. Novamente pressione simultaneamente as teclas de atalho Windows + R para abrir o Executar.
8. Digite Prefetch e clique em OK.
9. Será aberta a pasta Prefetch, por favor, exclua permanentemente todos os arquivos dentro da pasta, se alguns arquivos não forem apagados será normal pois os mesmos podem estar em uso.

Caso o comportamento persista, apresente mensagem ou código de erro, por favor, poste aqui novamente. Estamos à disposição. 

Se essa informação foi útil, marque-a como resposta. 

Até mais!