Atualmente, no debian e ubuntu mais recentes, é possível executar esta tarefa da seguinte forma:
hostnamectl set-hostname nomedoservidor
Em caso de erro na execução do comando instale o pacote
apt-get install systemd
Caso queira consultar o hostname, execute:
hostnamectl