Tudo começou em 1940, quando o irmão Roger, com 25 anos de idade, deixou o seu país de origem, a Suíça, para ir viver em França, país de sua mãe. Quando era mais novo, tinha estado imobilizado durante vários anos devido a uma tuberculose pulmonar. Durante esta longa doença, tinha amadurecido em si o chamamento para criar uma comunidade.
No momento em que começou a Segunda Guerra mundial, teve a certeza de que, tal como a sua avó tinha feito durante a Primeira Guerra mundial, deveria vir imediatamente em ajuda daqueles que atravessavam a dura provação da guerra. A pequena aldeia de Taizé, onde se fixou, ficava muito próxima da linha de demarcação que cortava a França em duas partes: estava bem situado para acolher refugiados fugidos da guerra. Amigos de Lyon ficaram reconhecidos por poderem indicar a aldeia de Taizé aos que tinham necessidade de refúgio.
Em Taizé, graças a um módico empréstimo, o irmão Roger tinha comprado uma casa, abandonada desde há muitos anos, com as suas dependências. Pediu a uma das suas irmãs, Geneviève, para vir ajudar no acolhimento. Entre os refugiados a quem deram abrigo, havia também judeus. Os meios materiais eram pobres. Sem água corrente, iam buscar água potável ao poço da aldeia. A comida era modesta, baseada sobretudo em sopas feitas com farinha de trigo comprada num moinho vizinho a baixo preço.
Por respeito para com aqueles que acolhiam, o irmão Roger rezava sozinho. Frequentemente ia cantar para longe de casa, no bosque. Para que alguns dos refugiados, judeus ou agnósticos, não ficassem constrangidos, Geneviève explicava a todos que era melhor que, quem quisesse, rezasse sozinho no seu quarto.
Os pais do irmão Roger, sabendo que o seu filho e a irmã se estavam a expor, pediram a um amigo da família, um oficial francês reformado, para olhar por eles, o que ele fez com diligência. No Outono de 1942, ele avisou-os de que tinham sido descobertos e de que todos deveriam partir sem demora. Até ao final da guerra, foi em Genebra que o irmão Roger viveu e foi lá que começou uma vida comunitárias com os primeiros irmãos. Puderam regressar a Taizé em 1944.
O compromisso dos primeiros irmãos
Em 1945, um jovem da região fundou uma associação para cuidar das crianças que a guerra tinha deixado sem família. Propôs aos irmãos acolherem alguns em Taizé. Uma comunidade de homens não podia receber crianças. Então o irmão Roger pediu à sua irmã Geneviève para voltar a Taizé para as acolher e tornar-se sua mãe. Aos domingos, os irmãos acolhiam também os prisioneiros de guerra alemães, internados num campo próximo de Taizé.
Aos poucos, alguns jovens vieram juntar-se aos primeiros irmãos, e, no dia de Páscoa de 1949, foram sete a comprometer-se em conjunto para toda a vida no celibato e numa vida comunitária de grande simplicidade.
No silêncio de um longo retiro, durante o Inverno de 1952-1953, o fundador da Comunidade escreveu a Regra de Taizé, que expressava aos seus irmãos o «essencial que torna a vida comunitária possível».