孙家鼐，幼读诗书，院试中举后，初次会试不第，目睹诸兄登榜，益自奋勉。终于咸丰九年(1859 年)中一甲一名进士(状元)。后授修撰，历侍读，入直上书房，钦赐扩建故居，悬“状元及第”匾。因久居京都，后又在北京廉子胡同另建府第。
同治三年(1864 年)任湖北学政。光绪四年(1878 年)命在毓庆宫行走，与翁同龢授读光绪皇帝，后累遣内阁学士，提升工部侍郎。江西学政陈宝琛上书请示以先儒黄宗羲、顾炎武从祀文庙，议者多以为未可，孙家鼐与潘祖荫、翁同龢、孙诒经等再请，才得到批准。
光绪十六年(1890)授都察院右都御史、工部尚书，兼顺天府尹。光绪二十年(1894)中日甲午战争即将爆发，朝议主战， 他力谏“衅不可启”，主张忍让屈和。甲午海战失败，朝野震惊，他提出了变法自强的政治主张，认为要振兴中华，要注重科学，兴办实业，国家欲富强、民族要兴旺首先要开办学堂。
孙家鼐列名强学会，并参与活动。御史杨崇伊秉承李鸿章之意，向皇帝上奏“强学会妄议朝政”，于是将强学会改名为“官书局”，孙家鼐仍主其事。他屡向光绪帝推荐维新派郑观应的《盛事危言》、汤光潜的《危言》和冯桂芬的《校邠庐抗议》等书，并请印刷数千份发给各级官员。他赞成维新派关于“开民智”、“通下情”为第一议的政治主张，认为“报纸是通下情之重要途径，阅报能去皇帝壅蔽，但要严禁凌乱宸聪”。他与马吉森合股在河南安阳创办广益纱厂。令其侄孙孙多森在上海创办阜丰面粉厂、中孚银行，并投资兴办启新水泥公司、北京自来水厂、井陉矿务局、滦州官矿公司等。
光绪二十四年(1898)光绪帝下诏推行变法，废科举，兴学堂，办报编书，命孙家鼐主办京师大学堂(今北京大学)，研究欧美日本国家办学体制。孙家鼐提出“以中学为主，西学为辅;中学为体，西学为用”的主张。计划京师大学堂设10 门主科、10 门附科，要求：“总古今，包中外，该体用，贯精粗……”。并主张兴办医学堂、武备学堂、速成学堂，大声疾呼各省要多办中、小学堂。嗣后，还令其子孙先后在故乡寿州办了很多学堂。康、梁变法失败后，六君子受戮，慈禧太后“废帝立储”，他力谏不可，意见未被采纳，藉口养病请退以示抗议。八国联军侵入北京后，他奉慈禧命至西安任礼部尚书。还京后，拜体仁阁大学士，历转东阁、文渊阁、晋升武英殿充学务大臣。
光绪三十二年(1906)清廷宣布立宪，设立资政院，孙家鼐出任总裁，召诸臣轮班进讲，亲撰尚书、四子书讲义以进。光绪三十四年(1908)二月，赏太子太傅，在寿县城北街建太傅第(今中共寿县县委党校址)。
宣统元年(1909 年)孙家鼐再疏乞病，不久去世，终年83岁。谥号文正公。翌年，家人扶柩回籍，葬于寿县城南九龙乡柳树圩附近。