1085年三月，司马光在洛阳得知神宗皇帝的死讯，便从洛阳回到开封为皇帝奔丧。
当司马光回到开封时，受到了士民热烈的欢迎，宫廷卫士高呼他“司马相公”，成千上万的百姓堵在宫门口，纷纷上来抱住司马光的马，请求道：“公无归洛，留相天子，活百姓！”
在旁人看来，这是司马光众望所归，深得民心，但对于司马光这个保守派来说，这是塌天大祸。未经皇帝任命，居然被人称呼为宰相，这是对皇家的蔑视，况且现在正值国丧期间，怎能容许自己在京城收买人心。
宫门口的欢呼让司马光惊恐不已，司马老匹夫赶紧找了个借口溜回了洛阳。
宋神宗驾崩，让保守派看到了复起的希望，他们均跃跃欲试准备重归朝堂，但保守的司马光却被士民的欢呼吓得要死，足可见司马光的谨慎与保守。称他为保守派，真是实至名归。
谨慎了几个月后，司马光被临朝听政的高太后说服，终于回到朝堂担任了门下侍郎（副宰相），不久就被任命为尚书左仆射兼门下侍郎，正式担任宰相。
从1069年变法开始，司马光就处处被王安石打压，虽然宋神宗欣赏他并把他留在朝堂，但到了保守派和变法派针锋相对的时候，司马光还是离开了京城。
远离京城15年的岁月，司马光潜心于编撰《资治通鉴》，在1084年完成并呈献给了宋神宗。1086年，担任宰相仅一年的司马光便病逝，获赠太师、温国公，谥号文正。
