Eu praticamente não uso o Linux em modo texto, por isto a minha
"solução" é para o X11.  Crie um arquivo '.Xmodmap' no seu $HOME com o
seguinte conteúdo :

keycode 22 = BackSpace

Com isto a tecla "Backspace" passa a gerar o "^H" como esperado.  A tecla
'Delete' eu deixei gerando o 'Rubout' mesmo, em certas situacoes a gente
precisa um e em outras a outra.