Родители: Сьюзен и Чарльз Манганьелло, отец имеет итальянское происхождение, а мама — австрийское и армянское. У Джо есть младший брат Николас. Джо учился в римско-католической начальной школе St. Bernard School, в средней школе Mt. Lebanon High School, которую окончил в 1995 году с отличием, учился в Питтсбургском университете, имеет степень бакалавра изящных искусств, окончив школу Carnegie Mellon School of Drama.