Na iconografia cristã há muitas imagens que representam são José já idoso e segurando uma vara com flores. Isso se deve a uma antiga história sobre sua escolha para ser o santo esposo da Virgem Maria.

As histórias sobre a escolha de são José como esposo para Maria são lidas em alguns textos conhecidos como apócrifos. São escritos dos primeiros séculos do cristianismo que, embora não sejam verdades de fé e, portanto, não façam parte do cânon bíblico, oferecem alguns piedosos detalhes e dados que a tradição da Igreja recolheu.

No “Protoevangelho de São Tiago” (apócrifo do século II), que a Santa Sé toma como referência, conta-se que quando a Virgem fez 12 anos, um anjo apareceu ao “Grande Sacerdote” Zacarias no lugar mais sagrado do templo e disse:

"Saiam e reúnam todos os viúvos da cidade, e venham cada um com uma vara, e a quem o Senhor enviar um prodígio, dele Maria será a esposa".

Todos os viúvos, inclusive José, atenderam ao chamado. Zacarias lhes pediu suas varas e entrou no templo para rezar. Depois, saiu e as devolveu.

Conta-se que quando são José recebeu a sua, dela saiu uma pomba que pousou sobre a sua cabeça. O sacerdote imediatamente lhe disse que havia sido escolhido para levar a Virgem do Senhor sob sua proteção.

José não se sentiu digno disso e recusou dizendo que já era velho, que Maria era uma menina e que ele não queria ser motivo de zombaria. Mas o "Grande Sacerdote" o repreendeu para temer mais a Deus. Foi assim que são José a tomou sob sua proteção.

No "Evangelho da Natividade de Maria" (apócrifo do século V) esta história é descrita de forma semelhante. Na história, os solteiros são convocados a deixar um galho seco no altar. Quando o velho e viúvo são José colocou sua vara, ela imediatamente floresceu e todos souberam que ele era o escolhido para Maria.

Graças a essas histórias, são José é pintado ou representado como alguém mais velho que Maria, inclusive com barba branca e cabelos grisalhos. A vara com flores é outra das características da iconografia do pai adotivo de Jesus.