Le premier album de Femme Generation, Brothers and Sisters, Alone We Explode, a été produit à l'été 2005 et officiellement lancé en février 2006 sur Permafrost Records. Produit par Dave MacKinnon de Fembots Infamy, il a été enregistré dans une grange du sud rural de l'Ontario et mixé chez Chemical Sound à Toronto. Brothers and Sisters, Alone We Explode a dominé de nombreux classements de radios universitaires canadiennes et américaines et est rapidement devenu un favori des podcasteurs.
L'été 2004 a vu la sortie du premier EP de Femme Generation, Circle Gets The Square. Avec ses compositions aussi viscérales que cérébrales, il a ébloui les fans et les critiques musicales, lui valant une place dans le Top 10 des albums de 2004 du magazine NOW. L'EP a été enregistré sur deux jours à l'historique Weston Lions Arena, en utilisant l'acoustique unique d'une ancienne salle de bal surplombant la patinoire. Produit par Dave MacKinnon, le mixage a été réalisé chez Chemical Sound à Toronto.
La lente formation de Femme Generation a débuté en 2002 avec Bernard Kadosh (chant, guitare) et Aaron Hutchings (claviers) qui se perçaient les tympans dans une salle de répétition isolée. Deux semaines seulement avant l'enregistrement de Circle Gets The Square, l'émigré montréalais John Rivera (basse) a répondu à une annonce le lendemain de son arrivée à Toronto et a rejoint le groupe. Après trois ans et deux enregistrements, Paul Filippelli a été remplacé par Alex Hackett (batterie) à l'été 2006.
