Você realmente não precisa remover esses arquivos. É muito mais fácil bloquear o acesso a eles. Se você está usando URLs bonitas, você já possui um arquivo .htaccess. Usar o .htaccess para bloquear os arquivos é seguro e você só precisa adicionar uma diretiva uma vez.
O bloqueio de arquivos é feito adicionando uma diretiva ao .htaccess como este:
<files filename.file-extension>
order allow,deny
deny from all
</files>
Então, para bloquear o readme.html, faça isso:
<files readme.html>
order allow,deny
deny from all
</files>
Faça o mesmo com o arquivo de licença ou qualquer outro arquivo que você queira impedir que alguém acesse. Basta abrir o arquivo .htaccess no Bloco de Notas ou em qualquer outro editor de texto básico, adicionar as diretivas e salvar, certificando-se de que o editor de texto mantenha o nome do arquivo exatamente - sem qualquer .txt no final.