Joe Diffie entstammt einer musikbegeisterten Familie; beide Elternteile waren Country-Musiker. Joe selbst spielte während seiner Schulzeit in verschiedenen Bands Gospel, Rock und Bluegrass. Mit der Bluegrass-Formation "Special Edition" erreichte er einen gewissen Bekanntheitsgrad in der örtlichen Szene. Nachdem einer seiner selbstgeschriebenen Songs von Hank Thompson aufgenommen wurde, beschloss er, sein Glück in Nashville zu versuchen.
Karriere : In Nashville hielt er sich zunächst mit einem Job in der Fabrik für Gibson-Gitarren über Wasser. Für einen Musikverlag besang er Demo-Bänder und schaffte so einen ersten Einstieg in die Szene. 1989 spielte Holly Dunn einen Song ein, bei dem er als Co-Autor mitgewirkte hatte. Auch die Forester Sisters griffen auf sein Material zurück. Schließlich erhielt Diffie einen Schallplattenvertrag bei Epic Records.
Bereits seine erste Single Home, schaffte es auf Platz Eins der Country-Charts. Es folgten drei Top-10-Hits. Sein 1992 erschienenes Album… ³