Všetko sa začalo v roku 1940, keď 25 ročný brat Roger opustil rodné Švajčiarsko a odišiel, aby žil vo Francúzsku, odkiaľ pochádzala jeho matka. Predtým dlhé roky trpel na tuberkulózu a počas dlhodobého zotavovania sa z tejto choroby v ňom dozrelo volanie založiť komunitu.
Keď začala II. svetová vojna, vedel, že musí neodkladne začať pomáhať ľuďom vo veľkej núdzi, tak ako to robila jeho stará mama počas I. svetovej vojny. Malá dedinka Taizé, v ktorej sa usadil bola blízko demarkačnej čiary rozdeľujúcej Francúzsko na dve časti: bola preto vhodne situovaná ako úkryt vojnovým utečencom. Priatelia z Lyonu poskytovali adresu Taizé ľuďom hľadajúcim útočisko.
Vďaka menšej pôžičke kúpil brat Roger už roky neobývaný dom v Taizé s priľahlými budovami. Jednu zo svojich sestier, Geneviève poprosil, aby mu prišla pomôcť s ponúknutím pohostinnosti. Medzi utečencami, ktorých ukrývali, boli aj židia. Materiálne prostriedky boli obmedzené. Nebola tam tečúca voda a tak museli chodiť po pitnú vodu k dedinskej studni. Strava bola skromná, prevažovali polievky varené z pšeničnej múky lacno kúpenej v neďalekom mlyne. S ohľadom na tých, ktorých prijímal, sa brat Roger modlieval osamote. Chodieval spievať ďaleko od domu, do lesa. Aby sa nikto z utečencov, najmä židia a neveriaci, necítili nesvoji, Geneviève každému vysvetlila, že by bolo lepšie, keby sa tí, čo chcú, modlili sami vo svojich izbách.
Rodičia brata Rogera vediac, že ich syn a dcéra sú vystavení nebezpečenstvu, poprosili rodinného priateľa, francúzskeho dôstojníka na dôchodku, aby na nich dohliadal. Na jeseň roku 1942 ich varoval, že ich ktosi prezradil a že by všetci mali ihneď odísť. Tak až do konca vojny žil brat Roger v Ženeve, a práve tu začal spoločný život s prvými bratmi. V roku 1944 sa mohli vrátiť do Taizé.
Prvé sľuby bratov
V roku 1945 založil v tomto regióne istý mladý muž organizáciu. Jej úlohou bolo starať sa o deti, ktoré vo vojne stratili rodičov. Navrhol bratom, aby niekoľko z nich prijali v Taizé. Komunita mužov však nemohla prijímať deti. Preto brat Roger požiadal svoju sestru Geneviève, aby sa vrátila do Taizé, starala sa o ne a stala sa ich matkou. V nedele prijímali bratia aj nemeckých vojnových zajatcov z neďalekého tábora.
Postupne prichádzali mladí muži a pridávali sa k prvým bratom. Na Veľkú noc roku 1949 boli siedmi, ktorí sa spolu na celý život zaviazali k celibátu, k spoločnému životu, a k veľkej jednoduchosti.
V tichu a dlhom ústraní, počas zimy v rokoch 1952-53 napísal zakladateľ komunity Pravidlá Taizé, kde svojim bratom vyjadruje „to podstatné, čo robí spoločný život možným“.