Reza uma lenda que, no início do século 20, um morador português, que costumava se embebedar de vinho, gritava pelas ruas no entorno da nascente do rio: “quem manda aqui é o filho do meu pai, quem manda aqui sou eu”. E os vizinhos passaram a brincar que o local era o “Mandaqui”.
Mas, na verdade, segundo os historiadores, o nome Mandaqui é de origem Tupi que nomeava o Rio Mandis (que significa “rio de bagres) e a região das imediações de Mandihi.
A primeira referência oficial do Mandaqui data de 1616, quando a Câmara, da então Vila de São Paulo Piratininga, deu permissão ao Bandeirante Armando Bueno da Ribeira construir um moinho de trigo ao lado do Ribeirão do Mandaqui (rio Mandis), que era afluente da margem direita do Rio Tietê. Esse moinho foi a primeira construção do bairro.
O bairro era majoritariamente rural até meados do século 20, devido a sua distância do centro da Cidade e da Várzea do Rio Tietê, que dificultava acesso à região. A urbanização foi impulsionada pela implementação da ferrovia, o único meio de transporte.
Uma das primeiras famílias imigrantes foi a Zumkeller, mais precisamente em 1863 (conforme escritura localizada no acervo do Arquivo do Estado de São Paulo) de origem suíço-alemã. A família se instalou onde hoje temos o conjunto dos Bancários, na rua Salvador Tolezano, 127.
Foi em 1928 que o sr. Alfredo Zumkeller começou a divisão da terras da família. Seu nome aparece em vários nomes de ruas em todo o bairro. No início do século 20, outra tradicional família de origem europeia, os De Laet, chegou ao Mandaqui e bairros vizinhos. No ano de 1939, a região ainda era de mata e a temperatura típica de serra, o que suscitou o, então médico Ademar de Barros, futuro governador do Estado, a interceder junto ao Presidente da República, Getúlio Vargas, para a construção de um sanatório para o tratamento da tuberculose.
Até 1982, este Centro Médico foi especializado em doenças respiratórias, quando o Governo do Estado iniciou sua transformação para o hospital geral. O Hospital passou a ser chamado por conjunto Hospitalar do Mandaqui.
A partir da década de 1960, o bairro começou a se verticalizar e atualmente abriga vários prédios domiciliares. O seu dia oficial é 6 de outubro.