John Byron Nelson Jr. wurde am 4. Februar 1912 in Waxahachie (Texas) geboren. Mit 12 Jahren war er als Caddy beim Glen Garden Country Club (Fort Worth) tätig. Mit 22 arbeitete er als Pro in in Texarkana (Texas).
1935 gewann er sein erstes Tournier (New Jersey State Open), 1937 folgte der erste Masters Sieg. 1945 war Nelsons erfolgreichstes Jahr, in dem er 18 Tourniere gewann, davon 11 in Folge. Beide Rekorde sind bis heute ungeschlagen.
Mit 34 zog er sich aus dem aktiven Sport zurück, hatte aber als Kommentator weiter Berührungspunkte mit dem Sport. Nach ihm wurde die EDS Byron Nelson Championship benannt, das erste PGA Tour Event, das nach einem Pro benannt wurde. 1974 erhielt er den Bob Jones Award und wurde in die Golf Hall of Fame aufgenommen. Zudem wurde ihm 1994 der Old Tom Morris Award und 1997 der PGA Tour Lifetime Achievement Award. Die Gold Medaille des Kongress erreichte ihn 2006 erst kurz nach seinem Tode (26.12.2006).