Lietuviškai skaityti ir rašyti išmokė namuose daraktorius.
Baigė Daukšių pradinę valdinę mokyklą.
1890 m. baigęs Veiverių mokytojų seminariją (čia priklausė slaptam lietuviškos spaudos platintojų būreliui) dirbo mokytoju Lenkijoje.
1905 m. su kitais lietuviais mokytojais steigė Lietuvos mokytojų sąjungą.
1907-1914 m. Kaune vadovavo Saulės lietuvių švietimo draugijos mokytojų kursams, dėstė muziką ir vadovavo chorui.
Per Pirmąjį pasaulinį karą su kursais išsikėlė į Voronežą, dėstė matematiką lietuvių mergaičių gimnazijoje.
1917 m. Lietuvių mokytojų sąjungos Lenkijoje vienas steigėjų.
1918 m. suimtas ir kalintas.
Grįžęs į Lietuvą 1918-1925 m. buvo Saulės draugijos mokytojų seminarijos Kaune direktorius. Dėstė psichologiją, pedagogiką ir pedagogikos istoriją.
Išrinktas į Kauno miesto tarybą rūpinosi mokytojų kvalifikacija, pedagogų kursus pertvarkė į mokytojų seminariją.
1919-1931 m. Švietimo ministerijos Pradinio mokslo departamento direktorius.
1931 m. Kauno burmistras.
Priklausė Lietuvių mokslo draugijai, Lietuvių draugijai nukentėjusiems dėl karo šelpti ir kitoms organizacijoms.
Bendradarbiavo leidiniuose: „Lietuvos ūkininkas“, „Mokytojas“, „Šaltinėlis“, „Vienybė“, „Viltis“, „Vilniaus žinios“, „Švietimo darbas“, „Lietuva“, „Tėvynės sargas“, „Rytas“.
1928 m. DLK Gedimino 3 laipsnio ordinas.
1931 m. DLK Gedimino 2 laipsnio ordinas.
1931 m. Kauno Žaliakalnio mikrorajono gatvė pavadinta burmistro Juozo Vokietaičio vardu.
1932 m. skulptorius Vincas Grybas sukūrė Juozo Vokietaičio paminklo gipsinį projektą.
1938 m. Kauno Šančių pradinei mokyklai buvo suteiktas Juozo Vokietaičio vardas.
1989 m. Kauno Žaliakalnio mikrorajono gatvė pavadinta brolių Antano ir Juozo Vokietaičių vardu.
1996 m. Kauno Naujamiesčio mikrorajone ant jo gyvenamo namo (M. Dobužinskio g. 3) atidengta memorialinė lenta.
1. Juozas Kudirka. Veiverių mokytojų seminarija (1866-1918), Vilnius, 1970, p. 80
2. Benjaminas Kaluškevičius, Kazys Misius. Lietuvos knygnešiai ir daraktoriai 1864-1904. Vilnius: Diemedžio leidykla, 2004, p. 530
3. https://www.vle.lt/straipsnis/juozas-vokietaitis
4. https://www.lsim.lt/wp-content/uploads/2020/04/ATMINTIES-SPALV-RETROSPEKTYVA-NUAJAS_2.pdf
5. https://atminimas.kvb.lt/asmenvardisb15d.html?asm=VOKIETAITIS%20JUOZAS
6. Fotografijų originalai saugomi Lietuvos švietimo muziejaus archyve
