Ambos os vocábulos existem e estão registados, por exemplo, no Dicionário da Língua Portuguesa 2008, da Porto Editora, e no Dicionário Eletrônico Houaiss. 

O dicionário da Porto Editora diz que a interjeição hem (do lat[im] hem, "hem!") é «usada para interrogar ou exprimir dúvida em relação a algo que não se ouviu bem ou não se percebeu» ou «exprime espanto ou indignação».

A interjeição hã (de origem onom[atopeica] é igualmente «usada para interrogar ou exprimir dúvida em relação a algo que não se ouviu bem ou não se percebeu», mas também é «usada para responder a um chamamento».

Por sua vez, o Dicionário Eletrônico Houaiss diz que hem «dá a entender que a pessoa não ouviu o que lhe foi dito e é equivalente a "o quê?"»; «denota espanto ou indignação, com o sentido de “ouvi bem?!“»; e «equivale a “não é verdade?“», a exemplo de «sempre fazendo das suas, hem?». Acolhe ainda a variante hein, mas como forma não preferível.

Quanto à interjeição hã, diz que «expressa reflexão, esclarecimento, admiração».