Boa pergunta.
No outro dia pensei nisso, mas agora fui ver como se fazia e foi bastante simples. Porreiro.
Eu tenho o Windows 7, por isso pode não ser exactamente igual.
1. Abre o menu iniciar, escreve regedit e clica Enter.
(Alternativa: Abre o Executar, escreve regedit e clica Enter.)
2. Apaga a extensão pretendida da pasta HKEY_CLASSES_ROOT.
Tu não disseste a extensão por isso tu é que sabes.
Para saberes a extensão de um ficheiro, clica botão direito e vai a propriedades. Aí tens entre parênteses a extensão (Por exemplo, .png).
3. Apaga a extensão pretendida da pasta HKEY_CURRENT_USER\Software\Microsoft\Windows\CurrentVersion\Explorer\FileExts.
4. Fecha o Editor de registo.
5. Abre o Gestor de Tarefas (Botão direito na barra do Windows e escolher iniciar Gestor de Tarefas ou fazer CTRL+ALT+DELETE e escolher iniciar Gestor de Tarefas).
5.1. Vai ao separador Processos, escolhe o processo "explorer.exe" e clica em Terminar. Confirma a mensagem seguinte clicando em Terminar Processo. Isto vai fechar a barra do windows, o menu iniciar, os ícones do ambiente de trabalho, o explorador do windows, etc.
5.2. Vai ao separador Aplicações, clica em "Nova tarefa...", escreve explorer e clica Enter. Isto abrirá de novo tudo isso. Estes passos são para reiniciar o explorador do windows.
6. Agora quando abrires um ficheiro com a extensão que apagaste ele irá te perguntar com que ficheiro queres abrir.
Nota 1:
Se queres apenas mudar o programa, não precisas disto. Basta ires às propriedades de um ficheiro que tenha essa extensão, dentro do separador Geral clicas em Alterar e escolhes o programa com que queres abrir ficheiros com essa extensão.
Nota 2:
Antes de se alterar alguma coisa no Editor de registo deve-se fazer um backup dele (Basta ir a Ficheiro e depois Exportar) para o caso de se fazer cagada.