TENIA EL MISMO PROBLEMA Y LO PUDE ABRIR DE ESTA MANERA_
Se van a Panel de control > Apariencia y personalización y a continuación, en Opciones de carpeta.
Ingresan en la ficha Ver y, a continuación, en Configuración avanzada, desactivan la casilla Ocultar las extensiones de archivo para tipos de archivo conocidos y, a continuación, clic en Aceptar. Luego seleccionas el documento en conflicto, clic derecho > Propiedades > General y donde viene el nombre del archivo a la extensión xlsx le quitan la ultima "x" guardan y listo.
Ej. Nominas.xlsx
quedaria asi Nominas.xls
Saludos