José Maria Whitaker nasceu em São Paulo, em 1878.

Advogado, diplomou-se pela Faculdade de Direito de São Paulo, em 1896. Nos tempos de estudante, manteve contato na faculdade com grupos políticos de tendência monarquista. Após concluir seus estudos, passou a exercer a advocacia no interior paulista. Em 1903, abriu uma firma de comércio de café, com a qual obteve grande prosperidade econômica. Em 1910, assumiu a presidência da Associação Comercial de Santos. Durante a década de 10, expandiu seus negócios para a área financeira.

Em dezembro de 1920 assumiu, a convite do presidente Epitácio Pessoa, a presidência do Banco do Brasil, onde desenvolveu uma gestão marcada pela austeridade administrativa, responsável pela recuperação econômica do órgão. Nesse sentido, colocou-se contra a política do governo de financiar a compra de estoques excedentes de café, com o objetivo de proteger o preço do produto. Deixou o cargo no final de 1922. Anos mais tarde, durante o governo de Washington Luís, recusou convite para voltar a dirigir a instituição, por discordar das linhas gerais da política econômica do governo.

Ligado ao Partido Democrático de São Paulo (PD), assumiu o Ministério da Fazenda imediatamente após a posse de Getúlio Vargas na presidência da República, em novembro de 1930. A grave crise econômica mundial então vivida, que atingia duramente o setor cafeeiro, fez com que Whitaker abrisse mão, em parte, de suas convicções liberais e não intervencionistas e aceitasse promover a compra de estoques excedentes de café. Mesmo assim, sua política de contenção dos gastos públicos acabou por fazê-lo alvo de críticas dos cafeicultores paulistas, que o acusavam, junto com o secretário de Fazenda do governo paulista, Numa de Oliveira, de favorecer os banqueiros em detrimento da lavoura. Pressionado, deixou o ministério em novembro de 1931.

No ano seguinte, teve modesta participação no movimento armado promovido pelas forças políticas paulistas em torno da bandeira da reconstitucionalização do país. A pequena dimensão de seu envolvimento no levante paulista, bem como o seu grande prestígio nos meios econômicos, livraram-no das represálias e perseguições sofridas pelos líderes constitucionalistas após a derrota do movimento, em outubro de 1932. Em seguida, retirou-se da vida pública e, durante muitos anos, dedicou-se exclusivamente aos seus negócios privados.

Retornou ao Ministério da Fazenda por um curto período, entre abril e novembro de 1955, durante o governo do presidente Café Filho.

Morreu em São Paulo, em 1970.