The Ghost Is Dancing a commencé à jouer et à improviser dans un appartement étudiant de French Avenue, à Toronto, en 2002. Leur premier spectacle a eu lieu en août 2004, à l'époque où les membres vivaient dans l'appartement. La formation originale était composée de Kevin Corlis à la batterie, Jim DeLuca et Jamie Matechuk à la guitare et au chant, Odie Ouderkirk au clavier, Eric Krumins à la basse, Jasmine Landau à la trompette et au violon, et Gabrielle Nadeau à l'accordéon. Depuis lors, The Ghost Is Dancing a pris une vitesse et une taille considérables.
Leur EP éponyme est sorti en janvier 2006. Ils ont sorti leur premier album complet,L'étincelle la plus sombreen juin 2007.