Hola!
Una buena solución que puedes implementar es realizando un cambio en el registro para deshabilitar esta opción y así poder eliminar la carpeta.
1. Clic en Inicio
2. En la barra de búsqueda digite “regedit” y pulse la tecla ENTER
3. En la ventana que aparece busque la siguiente ruta: HKEY_CURRENT_USER\Software\Microsoft\Windows\CurrentVersion\Explorer\Advanced\
4. Clic derecho y elijes la opción Valor de DWORD (32 Bits)
5. Inmediatamente es creado un archivo con nombre “Nuevo valor #1” modifica ese nombre por DisableThumbnailCache pulse la tecla ENTER
6. Doble Clic sobre DisableThumbnailCache
7. En la caja donde dice Información del valor aparece “0” por favor coloque “1”.
8. Reinicia el equipo y debería deshabilitarse esta función
Saludos…