然称帝，恐落不忠之名，被天下人耻笑。”
郭威再次上前一步，恳切说道：“石氏已亡，辽人暴虐，中原无主，百姓流离失所。明公不称帝，谁能安定天下？这是顺天应人，绝非不忠！”
刘知远见人心所向，不再推辞。他当即下令在太原举哀，为石敬瑭、石重贵发丧，以此收拢后晋旧臣之心。随后在诸将的再三劝进之下，于天福十二年二月十五日，在太原的北都宫城登基称帝，仍沿用晋国号，继续使用天福年号，以示承继后晋正统，史称后汉高祖。
刘知远称帝后，立刻传檄中原诸镇，声言要驱逐辽寇，恢复中原。他下了三道命令：一是禁止为契丹括取钱帛；二是慰劳保卫地方和武装抗辽的民众；三是在诸道的契丹人一律处死。各地不堪辽人欺压的藩镇将领，纷纷杀辽官、献城池，争先恐后地归附刘知远。
耶律德光见中原处处反叛，自己又身患重病，高烧不退，再也不敢停留，只得下令劫掠开封府库的所有珍宝，驱赶着抢来的百姓，仓促北归。大军行至栾城的杀胡林时，耶律德光病重而亡。契丹人为了将他的尸体运回北方，不得不剖腹摘去肠胃，用盐腌制，做成了“帝羓”——这在历史上，也是罕见的帝王悲剧。辽军群龙无首，仓皇北逃，中原之地尽数被刘知远收复。
耶律德光一死，辽国内部立刻陷入皇位之争，根本无暇南下。刘知远抓住这个良机，亲率大军从太原出发，一路南下。所过之处，百姓夹道相迎，纷纷献上酒食；那些藩镇将领，也都带着印信前来归降，几乎没有遇到任何像样的抵抗。同年六月，刘知远率军浩浩荡荡地进入开封，随后正式改国号为汉，史称后汉，仍以开封为都城，正式定鼎中原。
入城之后，刘知远下旨安抚百姓，废除辽人所有的苛政，严禁士兵劫掠。他还下令减免赋税，收拢流民，发放粮食救济饥民。中原大地，终于稍稍安定下来。他对着朝中群臣说道：“朕起于河东，并非贪图皇位，只为驱逐夷狄，安定中原，让百姓能安居乐业，这便是朕最大的心愿。”随后，他加封郭威、史弘肇、杨邠、王章等心腹功臣，整顿军纪，派兵削平那些不服管制的小藩镇，后汉的政权，渐渐稳固下来。
可命运似乎并不想给刘知远太多时间。他在位仅仅一年，就身患重病，卧床不起。乾祐元年正月，刘知远已经到了弥留之际，他强撑着一口气，召皇子刘承祐及心腹大臣郭威、杨邠、史弘肇、王章入内殿，托孤辅政。
他紧紧握着刘承祐的手，气息微弱，却字字清晰：“朕在位日短，
…。。