Tóth József 1951. december 2-én született Mosonmagyaróváron, ott kezdett el futballozni is, onnan került először 1969-ben Pécsre, majd 1975-ben Újpestre, ahol 1984-ig 268 mérkőzésen játszott és három gólt szerzett.
1984 és 1986 között az MTK-VM színeiben szerepelt az élvonalban, majd a finn IF Kraft csapatában fejezte be a labdarúgó karrierjét. 1986 novemberétől, a finn bajnoki szünet idején az Erzsébeti SMTK színeiben szerepelt a területi bajnokságban.
Több poszton is játszott, kezdetben balszélső, volt majd balösszekötő. A válogatottban már balhátvédként került be és pályafutása végén középhátvéd poszton is játszott.
Kétszeres magyar bajnok (1977-78, 1978-79) és a,kupagyőztes (1982, 1983) volt.