Fils d'un pasteur, il fut également chef d'orchestre, cornettiste, trompettiste, professeur de musique dans la seule université d'Alabama ouverte aux noirs, éditeur de musique et de disques, et écrivain.

Il est le compositeur des célèbres Memphis blues et Saint Louis blues.

Il était membre de la Hiram Lodge n° 4 de New-York et, selon Raphaël Imbert dans son ouvrage Jazz supreme, Duke Ellington a raconté s'être trouvé un soir dans cette Loge avec Handy, Lionel Hampton, Count Basie, Ben Webster et Earl Hines.

Imbert rapporte aussi que 1500 maçons participèrent à sa veillée funèbre maçonnique et que le lendemain 30000 personnes suivirent dans les rues de Harlem son cortège funèbre accompagné par une fanfare de Loge.

Il cite également cet extrait de l'autobiographie de Handy, où celui-ci raconte comment il échappa en plein Mississipi à un groupe de Blancs décidés à lui faire un mauvais parti :

Toute la nuit je me suis caché dans les champs. En début de matinée, frigorifié, j'ai frappé à la porte de la cuisine d'un vieil homme blanc et lui ai expliqué dans quelle situation je me trouvais. Il était franc-maçon. Après m'avoir servi un petit-déjeuner, il s'arma d'un fusil à deux coups et me conduisit à la gare dans son Buggy.