Légende du jazz éthiopien, Hailu Mergia est né en 1946 dans la province de Shewa, dans l'Empire éthiopien, et s'est installé à Addis-Abeba à l'âge de 10 ans. Il a grandi au son des mélodies traditionnelles oromo, amhara et tigrigna, et a appris l'accordéon en autodidacte à 14 ans. Sa maîtrise de l'accordéon, ainsi que du clavier et son talent pour « transformer des chansons folkloriques en mélodies modernes plus funky », ont défini sa contribution à la musique populaire éthiopienne. Dans les années 1970, Hailu Mergia était claviériste au sein du Walias Band, un groupe de jazz et de funk au son polyrythmique et puissant, influencé par des artistes occidentaux comme King Curtis, Junior Walker et Maceo Parker. À cette époque, il était plus difficile pour les groupes de la région de gagner leur vie, après que le gouvernement Derg de Mengistu eut imposé des restrictions à la vie nocturne d'Addis-Abeba. Cependant, la musique était encore régulièrement enregistrée, et les cassettes étaient le support de diffusion habituel, car elles étaient faciles à dupliquer et à distribuer. Le groupe Walias a résidé pendant 10 ans à l'hôtel Hilton d'Addis-Abeba durant cette période.
En raison de la dictature du Derg, la censure était souvent un problème pour les musiciens de la région, mais Hailu a reconnu qu’une façon de contourner la censure était de ne créer que des instruments. La musique éthiopienne était généralement dirigée par un chanteur : seuls trois albums instrumentaux ont été publiés pendant « l’âge d’or » de la musique à Addis, dont l’un des albums marquants de Hailu avec le Walias Band.Tche Belew (1977). En tant que projet parallèle, Hailu a rejoint le Dhalak Band à cette période et a enregistré la cassette uniquement. Wede Harer Guzo(1978) avec eux, un album aux influences jazz où domine l'improvisation. Le jeu d'orgue de Hailu était l'une des caractéristiques principales du Walias Band, mais lors d'une tournée aux États-Unis dans les années 1980, Hailu et plusieurs autres membres décidèrent de rester aux États-Unis, mettant ainsi fin à la carrière du groupe. Leur héritage en Éthiopie était pourtant déjà fort, notamment grâce à leur instrumental « Muziqawi Silt » de 1977.
Plusieurs années après avoir déménagé aux États-Unis, Hailu a enregistré un nouvel album,Hailu Mergia et son instrument classique, en 1985. Bien qu'il ait arrêté de se produire en 1991, ouvert un restaurant et travaillé comme chauffeur de taxi, il a continué à écrire de la musique. Hailu Mergia et son instrument classiquea été réédité en 2013 sur le label Awesome Tapes From Africa, après que son propriétaire l'ait découvert dans un bac à cassettes. Cet album a été suivi en 2016 par une réédition deWede Harer Guzo, ce qui se traduit approximativement par « Voyage à Harar », une ville de l’est de l’Éthiopie.Wede Harer Guzoest devenu son album le plus populaire à ce jour, avec des titres cumulant plus de 5 millions d'écoutes. En 2018, son premier nouvel album depuis plus de vingt ans,Lala Belu, est sorti sur le même label, avec Hailu accompagné de Mike Majkowski et Tony Buck. Il a été suivi en 2020 par un album avec le groupe complet,Yene Mircha.