乾德二年十一月，赵匡胤下令从东、北两个方向对占据川蜀的后蜀王朝发动攻击。仅仅用了两个多月时间便击溃了后蜀军队的抵抗，后蜀皇帝孟昶开城投降，后蜀灭亡。
开宝三年九月，赵匡胤下令北宋军队从湖南出兵，讨伐占据两广的南汉王朝。短短的四个月时间，宋军便一路深入南汉境内，兵临南汉都城广州。开宝四年二月，南汉后主刘伥开城投降，南汉王朝灭亡。
仅剩南方的南唐、吴越、平海军，以及北方的北汉尚在割据，陈洪进内心十分不安，谦逊恭敬地向宋王朝进贡丰厚礼品，以维持自己在平海军的统治。
而军事最为强大的南唐国，自李煜继位以来，南唐的综合国力日益衰落，但武昌节度使林仁肇仍主动向李煜献上收复淮南的计策。淮南一带爆发李重进叛乱后，赵匡胤曾经把淮南的大量兵力调离，使得淮南一带的防御比较薄弱。林仁肇便不断上表李煜，要求带兵北伐，收复淮南失地。
为了不连累李煜，林仁肇想了一个万全之策，让自己假装率兵发动叛乱，然后攻打淮南，如果攻打淮南成功，那么整个淮南便会重新回到南唐手中，如果攻打淮南失败，那么李煜便可以谋反之罪处死林仁肇。李煜吓得根本不敢答应，唯恐会牵连自己。
赵匡胤得知了林仁肇的计划之后，对林仁肇十分痛恨和忌惮，决定采取策略干掉林仁肇。赵匡胤通过贿赂林仁肇的左右随从，得到了林仁肇的画像，并悬挂于一间空的公馆内。
开宝五年二月，李煜派遣弟弟李从善率使团出使宋国，赵匡胤便带领李从善等南唐官员对悬挂林仁肇画像的公馆进行参观。当大家惊讶地看到林仁肇的画像时，赵匡胤连忙解释，画像上的这位名叫林仁肇，这个公馆就是赏赐给他的。使团回国后，将此事回禀李煜，李煜开始对林仁肇产生猜忌，最终杀害了林仁肇。
借李煜之手干掉了林仁肇，赵匡胤很满意，于是决定先礼后兵，诏谕李煜入朝见面。但李煜却以各种理由百般推脱，就是不肯前去开封。
赵匡胤沿用后周大臣王朴制定的《平边策》的统一战略，已经完成了一半，下一步就要拿李煜开刀了。虽然李煜待自己如父，但赵匡胤不是耶律德光，耶律德光鼠目寸光好打发，赵匡胤要的是统一，而不是李煜的谦卑。其实即使李煜敢对赵匡胤耍横的，他也没这个条件。
此时南唐只占有长江以南中下游地区和江西，北、西、南三面有宋朝大军虎视眈眈，东面有向宋称臣的吴越和泉州，四面受敌。虽然李煜在位时间和三国吴后主孙皓很相似，但孙皓至少还保有大半江南，李煜就这巴掌大的地方，加上宋朝强大的实力，换谁也没办法。
李煜当政十多年来，对外屈膝，对内享受，刚即位时对老百姓的那点“关爱”早飞到爪哇国去了。朝中在职的多是些尸位素餐的“文学家”，国事已经不可逆转。内史舍人潘佑对此痛心疾首，上疏大骂李煜：“过去夏桀殷纣吴孙皓自取灭亡，为史所笑。现在陛下还不如他们，臣不愿和朝中那些畜牲共事，更不愿意侍奉陛下这个亡国昏君！”
李煜见疏大怒，中书舍人和潘佑不和，在李煜面前煽火，李煜派人去拿潘佑。潘佑早知道自己不会有好果子吃，痛哭一场，然后自刎身亡。潘佑那道奏疏中把皇帝和大臣全都臭骂了，但唯独认为司农卿李平有才可以大用，希望李煜能让李平当尚书令。众人被潘佑骂急了，见潘佑死了，就把怒火射向了李平，纷纷在李煜面前抵毁李平，说李平和潘佑结党营私，李煜便把李平投到狱中，李平不久也死在狱中。
开宝六年四月，赵匡胤派翰林学士卢多逊以贺寿为名出使金陵，探探江南形势。卢多逊为人“狡黠”，先耍出手段糊弄李煜，说什么只要李煜好好侍奉大宋便相安无