Cyfansoddwyd tôn a geiriau'r gân a fabwysiadwyd yn ddiweddarach fel anthem genedlaethol Cymru ym mis Ionawr 1856. Roedd yn ganlyniad cydweithio rhwng tad a mab o Bontypridd: Evan James, awdur y geiriau, a James James, cyfansoddwr y dôn.
Ansicr yw'r hanes y tu ôl i gyfansoddi'r anthem genedlaethol. Tybia rhai fod Evan James wedi ysgrifennu'r geiriau cyn i'r dôn gael ei chyfansoddi gan ei fab, a rhai fod y dôn wedi'i chyfansoddi cyn y geiriau. Rhoddwyd yr enw Glan Rhondda iddi yn wreiddiol fel oedd yn gyffredin ar gyfer tônau emynau.
Perfformiwyd y gân am y tro cyntaf yn ysgoldy Capel Tabor, Maesteg, yn 1856 gan Elisabeth John, Pontypridd.
Cyhoeddwyd Glan Rhondda yn y gyfrol Gems of Welsh Melody yn 1860, dan y teitl mwy adnabyddus, Hen Wlad fy Nhadau. Gwerthodd y gyfrol yn well nag un casgliad arall, a dod yn boblogaidd trwy Gymru.
Yn Llundain ar 11 Mawrth 1899, gwnaed y recordiad sain Cymraeg cyntaf sy'n hysbys, pan recordiwyd y gantores Madge Breese gan y Gramophone Company. Ymhlith y caneuon a ganodd y diwrnod hwnnw, roedd yr anthem genedlaethol, Hen Wlad Fy Nhadau.