Urodził się w 1898 w Valenciennes. Początkowo chciał uczyć się gry na oboju lecz nauczyciel waltorni, Arthur Cantin przekonał go do tego właśnie instrumentu. Devémy brał lekcje śpiewu wraz z żoną Cantina, która ceniła jego ładną barwę głosu. Po wybuchu I Wojny Światowej został wzięty do niewoli. W 1916 został zmuszony przez niemieckie władze do grania na waltorni w organizowanych koncertach - tym samym uniknął przymusowej pracy i zyskał możliwość współpracy ze znanymi niemieckimi dyrygentami. Po wojnie został włączony do Pierwszego Pułku Inżynierii, gdzie został pierwszym waltornistą zespołu w Wersalu. W 1921 rozpoczął pracę w Kolońskiej Orkiestrze oraz w zespole Gwardii Republikańskiej z którą zagrał ponad 150 koncertów. W został pierwszym waltornistą Paryskiej Orkiestry Radiowej a w 1930 również tamtejszej Opéra Comique.
W 1937 został profesorem w Paryskiem Konserwatorium Muzycznym. Wykształcił liczne grono waltornistów, którzy grali w czołowych francuskich orkiestrach wojskowych i symfonicznych. Jego uczniowie zdobywali szereg nagród. Devémy dokonał imponującej ilości nagrań jak na okres w którym żył. Jego dyskografia obejmuje utwory orkiestrowe, standardowe utwory solowe i kameralne oraz mniej znane dzieła muzyki francuskiej. Oprócz gry na rogu Devémy lubił dyrygować, regularnie występując z Orkiestrą Radiową z Lille.
Jego liczne osiągnięcia muzyczne przyniosły mu tytuły Rycerza Legii Honorowej oraz Dowódcy Narodowego Orderu Zasługi. Zmarł w 1969 na miesiąc przed odejściem na emeryturę. Został zapamiętany jako dobry i skromny człowiek.
