Joe Lee Williams werd in Crawford geboren als zoon van pachters en op vijfjarige leeftijd speelde hij op een zelfgemaakte gitaar. In 1915 verliet hij zijn huis om door het zuiden te trekken. Williams werkte van 1918 tot 1924 op kermissen en voor kwakzalvers met een jugband en als solist. In de jaren 20 speelde hij, vaak begeleid door Little Brother Montgomery, in bordelen, werkkampen en kroegen in Missisipi en Louisana. Zijn platendebuut maakte hij in 1935 voor Bluebird en een van zijn vroege opnames, ‘Baby please Don’t Go’ werd een bluesstandaard. Hij nam eind jaren 30 regelmatig op met Robert Nighthawk en Sonny Boy Williamson op Bluebird.

Hoewel Williams zowel 6-snarige als 12-snarige gitaren bespeelde, is hij het meest bekend om het bespelen van een 9-snarig instrument dat hij zelf had gemaakt. Hij maakte voortdurend tournees en nam tot achter in de jaren 70 platen op.

Op volgende video is Big Joe Williams te zien die de bluesstandaard ‘Baby please Don’t Go’ speelt, het nummer werd verscheidene malen gecoverd door ondere andere Van Morrison in de jaren 60.