至元十五年（公历1278年）正月，元朝派大将王用率军攻雷州（今湛江雷州市），被宋军击败。
四月，南宋端宗（曾封益王）赵罡病死，年仅9岁，卫王赵昺被立为皇帝，是为宋末帝（没有年号）。卫王赵昺（史称“幼帝昺”）拜张世杰为少傅、枢密副使。就这样，8岁的赵昺，继续打着宋朝的旗号与元军抗衡。
五月，元军统帅张弘范遣琼州安抚使张应科率军进攻雷州，三战皆失利。六月，张应科率军卷土重来，在雷州城下与宋军决战，张世杰率军奋勇拼杀，激战中打死元将张应科，再次击退元军。《宋史·张世杰传》记载说：
击走元军后，张世杰感到碙洲（雷州湾外东南处的一座海岛）不宜久留，于当年六月，和丞相陆秀夫一起带着幼帝昺及南宋小朝廷残余势力迁至海中崖山（今广东江门新会以南约百里 之崖门）。
八月，赵昺封张世杰为越国公。元朝为了尽快剿灭南宋小朝廷，从琼州（今海南）调集大量粮食供给灭宋元军。十月，张弘范派遣凌震、王道夫率军奔袭广州，亦被宋军挫败。
至元十六年（1279），元军统帅张弘范、李桓等人率元军主力（步兵、水军大多为南宋降军，骑兵为蒙古人）开至崖山，一场惊天对决即将展开。《宋史》记载，见元军大举袭来，一副志在必得的架势，有人向张世杰献计说：
意思是元军用水师封锁住海口（指河湖入海口），我军就进退失据了，为什么不先抢占海口。若侥幸取胜，那是国家的福份；若不能取胜，仍然可以向西撤退。
张世杰觉得此说虽然在理，但又担心军队长时间在海上漂泊难免会影响士气，恐有离散之心，一旦行动大军必然溃散，就对献策者说：
意思是连年航海，士卒倦怠 ，什么时候是个了呢？现在就应该跟敌人一决胜负。
旋即下令将皇帝赵昺临时驻跸地（崖门）的郊外集市、草庐全部焚毁，还命将士将千余艘大船用铁索连接起来，号称水寨，结船寨以为死守之计，人人都感到形势之危殆，俱怀必死之心。
过了不久，张弘范率元军大举开到，其水军迅速抢占了海口，宋军砍柴、取水的通道全被堵死。没几天，据守水寨的宋军淡水耗尽，取水路又被截断 ，将士焦渴难忍，军心大乱。在十几天的时间里，宋军啃食干粮，没水无法吞咽，干渴极了只能舀海水解渴，《宋史》说：
海水味道又苦又咸，喝下去就上吐下泻，宋军将士苦不堪言，人人都感到困厄异常。
在如此困难的情形下，张世杰仍不屈服，他困兽犹斗， 天天和部将苏列义、方兴天一起率宋军与优势元军浴血苦战。
张弘范俘虏了一个姓韩的宋人，得知他是张世杰的外甥，遂封官许愿，3次派韩某去招降张世杰，张世杰均一口回绝，还历数古代忠臣对外甥说：
我知道投降了，不仅可以活命，还能得到荣华富贵，但我为皇帝而死的决心是不会动摇的（和岳飞一样愚忠）。
2月的一天，张弘范挥军水陆俱进，大举进攻崖山船寨，并施以火攻，宋军溃败，张世杰力战不支，只得退保卫王赵昺所乘坐的海船。元军发起猛攻，已经逼近宋军的中军，张世杰才斫断铁索，率十余艘巨舰突围而走，冲出了崖门港口。
其余宋军溃兵登岸杀回崖山，准备据险坚守，被元军将领刘自力击败，元军迫降了张世杰麾下将领方遇龙、章文秀、叶秀荣等40余人。《宋史》记载：
侥幸突出重围的张世杰还想侍奉杨太妃寻访赵氏后人而扶立为帝，不久却在海上遭遇了特强飓风摧毁了他的坐船，张世杰落水被淹死在平章山下。
小结：公元1279年2月，宋将张世杰率南宋残余军队与元军在广东新会崖门海域展开了一场历时20多天的残酷海战，双方共投入50多万兵力，调用战船2000多艘，最后断水断粮的宋军除少数投降外，几乎全军覆没 。眼看无力回天，丞相陆秀夫抱着幼帝昺投海自尽 。十余万南宋士民不愿降元，纷纷投海殉国 ，海上浮尸如麻，惨不忍睹。许多传世的珍贵典籍也毁于崖山战火。不久， 侥幸逃出生天的张世杰溺毙海上，南宋名实俱亡。
有学者认为，赵宋的灭亡，不是简单的王朝更迭，而是传统华夏文明的一次空前大劫难、大沦丧。是所谓“崖山之后无中国，明亡之后无华夏”（日籍汉学家内藤虎次郎，即内藤湖南 ） 。
