Iniciou sua carreira política elegendo-se deputado federal pelo Ceará, na legenda do Partido Social Democrático (PSD), em outubro de 1950. Durante todo o mandato, iniciado em fevereiro de 1951, assumiu uma postura relativamente independente em relação ao partido pelo qual se elegera, caracterizada principalmente pela severa oposição ao governo de Getúlio Vargas.

Nas eleições de outubro de 1954, candidatou-se ao governo do Ceará pela legenda da coligação do PSD com o Partido Social Progressista (PSP), sendo derrotado por Paulo Sarasate, candidato da coligação entre a União Democrática Nacional (UDN), o Partido Trabalhista Brasileiro (PTB) e o Partido Republicano (PR). Nesse mesmo pleito, candidatou-se simultaneamente a uma cadeira de deputado federal na legenda pessedista, tendo sido reeleito.

No final de 1954 tiveram início em todo o país as discussões em torno da sucessão presidencial, deixando entrever que as eleições se realizariam num clima de grande tensão política. Armando Falcão destacou-se como importante articulador da candidatura de Juscelino Kubitschek, governador de Minas Gerais, à presidência da República. Representando o Ceará em reunião do diretório nacional do PSD realizada no dia 25 de novembro, manifestou-se favorável ao lançamento extra-oficial da candidatura Kubitschek.

Em decorrência das suspeitas de que elementos da UDN e setores militares tentariam impedir a candidatura de Juscelino, foi realizada uma reunião com o ministro da Guerra, Henrique Teixeira Lott, em que ficou assegurada a manutenção da legalidade da candidatura de Juscelino em quaisquer circunstâncias. Participaram desta reunião o ministro da Marinha, Edmundo Amorim do Vale, o chefe do Estado-Maior das Forças Armadas, Canrobert Pereira da Costa, Armando Falcão e outros líderes do PSD. Armando Falcão teve, ainda, participação no processo de discussão e homologação da candidatura do líder trabalhista João Goulart à vice-presidência da República, consolidando a coligação PSD-PTB.

Durante o governo Kubitschek, Aramando Falcão, que exercia seu segundo mandato como deputado, foi líder e vice-líder do PSD na Câmara. Nas eleições realizadas em outubro de 1958, reelegeu-se deputado federal pelo Ceará, ainda na legenda pessedista. Durante seu terceiro mandato foi diversas vezes substituído por um suplente, em face de outras obrigações assumidas no período, tais como a viagem à Venezuela, em 1959, onde chefiou, como embaixador extraordinário e plenipotenciário, a delegação brasileira à posse do presidente Romulo Bittencourt.

Ainda em 1959 foi designado para substituir Carlos Cirilo Júnior no Ministério da Justiça e Negócios Interiores. Neste mesmo ano, entre 11 e 24 de agosto, assumiu interinamente o Ministério das Relações Exteriores, substituindo o titular Horácio Lafer.

Em meados de 1959 teve início a campanha para a sucessão presidencial. No mês de julho, o general Lott, contando com o apoio de Armando Falcão, foi lançado candidato pela coligação PSD-PTB, enquanto a UDN se dividia entre Jânio Quadros, ex-governador de São Paulo, e Juraci Magalhães, governador da Bahia. Em novembro, os udenistas, reunidos em convenção nacional, decidiram-se por Jânio. A candidatura Lott, contudo, não era respaldada pelos setores mais radicais do trabalhismo. Em fins de 1959, valendo-se da ausência de João Goulart, companheiro de chapa de Lott, que se encontrava em viagem ao exterior, o governador do Rio Grande do Sul, Leonel Brizola, tentou pressionar, por meio de greves, o enquadramento do governo no esquema trabalhista, pleiteando a retirada da candidatura Lott, em prol de um candidato "popular e nacionalista". Na ocasião, Juscelino Kubitschek convocou uma reunião com autoridades governamentais, na qual foi elaborada uma nota de esclarecimento à opinião pública.

Ficou estabelecido, também, um plano de prevenção e repressão a tais atividades, a ser coordenado pelos ministros militares Odílio Denis, da Guerra, Francisco de Assis Correia de Melo, da Aeronáutica, e Jorge do Passo Matoso Maia, da Marinha, e ainda pelos ministros do Trabalho, Fernando Nóbrega e da Justiça, Armando Falcão, que conseguiram efetivamente abafar a iniciativa de Brizola. Nas eleições realizadas no dia 3 de outubro de 1960, Lott foi amplamente derrotado por Jânio Quadros

Em 1960 exerceu a função de coordenador da assistência às vítimas das inundações do Nordeste. No dia 1º de janeiro de 1961 assumiu interinamente o Ministério da Saúde. Em 31 de janeiro, o presidente eleito Jânio Quadros foi empossado e Armando Falcão deixou o ministério, reassumindo seu lugar na Câmara dos Deputados, onde passou a fazer oposição ao novo governo e posteriormente, com a renúncia de Jânio, manifestando-se contra a posse de João Goulart.

Sempre na legenda pessedista, candidatou-se novamente à deputado federal nas eleições de outubro de 1962. Na ocasião, promoveu e liderou uma aliança entre o PSD e a UDN no Ceará que, sob a denominação de União pelo Ceará, conseguiu evitar o triunfo das esquerdas no estado e garantiu seu quarto mandato consecutivo.

Instaurado o bipartidarismo, em 1966 filiou-se à Aliança Renovadora Nacional (Arena). Neste mesmo ano participou da conferência da Organização dos Estados Americanos (OEA), realizada no Rio de Janeiro, como membro da delegação brasileira. Nas eleições de novembro de 1966 candidatou-se a uma cadeira na Câmara dos Deputados, já na legenda da Arena, mas obteve apenas uma suplência. Deixou a Câmara ao final da legislatura, em janeiro de 1967, voltando a ocupar uma cadeira como suplente entre abril e agosto do ano seguinte. Permaneceu afastado da vida pública até o limiar do governo de Ernesto Geisel, quando atendendo a convite do presidente eleito da República pelo Congresso em janeiro de 1974, assumiu o Ministério da Justiça em março. A pedido de Geisel, providenciou a elaboração do projeto de lei para a fusão dos estados da Guanabara e do Rio de Janeiro que, sancionado pelo Congresso em julho de 1974, passaria a vigorar no dia 15 de março de 1975.

Sob sua coordenação foi também elaborado, a pedido do Executivo, o projeto de reforma do Poder Judiciário, que incluía os anteprojetos de reforma do Código Civil, do Código de Processo Penal e da Lei das Contravenções Penais. Em 1977 foi finalmente aprovado pelo Executivo o conjunto de leis que se tornou conhecido por "Pacote de Abril".

Em 27 de novembro de 1978 Armando Falcão sancionou uma nova Lei de Segurança Nacional. Constituindo um primeiro esboço do projeto de retorno da vida política do país à normalidade democrática, a nova Lei de Segurança Nacional pôs fim às penas de morte, à prisão perpétua e ao banimento, reduziu a incomunicabilidade de dez para oito dias, restabeleceu o habeas-corpus e devolveu o julgamento dos responsáveis por assaltos a banco à esfera do Código Penal. Deixou o Ministério da Justiça em março de 1979, no final do governo Geisel.

Fora do governo, não deixou de participar da política de bastidores. Sempre fez questão de manifestar, através de entrevistas e artigos publicados na imprensa, suas posições conservadoras, pronunciando-se contra a legalização dos partidos por ele chamados de extremistas, e criticando a desenvoltura das articulações das forças de esquerda na Nova República.

Sua condição de grande proprietário de terras em Quixeramobim (CE), herdadas da família, colocou-o na linha de frente contra a reforma agrária. Em 1989, publicou um livro de memórias cujo título, Tudo a declarar, fazia uma brincadeira com a frase "nada a declarar", que caracterizara sua relação com a imprensa quando era ministro da Justiça de Geisel e se recusava a comentar qualquer assunto que considerasse confidencial ou polêmico.

Casou-se em primeiras núpcias com Maria Ilná Bezerra Falcão, com quem teve seis filhos. Viúvo, contraiu segundas núpcias com Aline Sabóia.