张作霖离京回东北，日本关东军高级参谋河本大作已经为他布下“必死之阵”，在距沈阳一公里半的皇姑屯火车站附近的桥洞下放置了三十袋炸药及一队冲锋队。尽管张作霖行前曾接到部下的密报，说“老道口日军近来不许人通行”，希望多加防备，张作霖也三次变更启程时间，以迷惑外界，但他并未料到会有此杀身之祸。
1928年6月3日晚6时，张作霖离开北京大元帅府，乘坐由奉天迫击炮厂厂长沙顿驾驶的在英国制的黄色大型钢板防弹汽车，奔往火车站。随行的有靳云鹏、潘复、何丰林、刘哲、莫惠德、于国翰、阎泽溥、张作霖的六姨太太和三儿子张学曾、日籍顾问町野和仪我等人。张作霖的专车22节，是清朝慈禧太后用过的“花车”，装饰非常华丽，他乘坐的80号包车在中间，包车厢后是餐车，前边是两节蓝钢车，里头坐着潘复、刘哲、莫德惠、于国翰等人。专车前面还有一列压道车作前卫。晚上8时，专车从北京车站开出。深夜，列车风驰电掣地开到山海关车站，黑龙江督军吴俊升专程在这里迎候。
1928年6月4日清晨，日本驻奉天总领事林久治郎很早就起了床，登上住房屋顶用望远镜朝三洞桥瞭望。5时23分，当张作霖乘坐的专车钻进京奉(北京至沈阳)铁路和南满(吉林至大连)铁路交叉处的三洞桥时，日本关东军大尉东宫铁男按下电钮，一声巨响，三洞桥中间一座花岗岩的桥墩被炸开，桥上的钢轨、桥梁炸得弯弯曲曲，抛上天空，张作霖的专用车厢炸得只剩一个底盘。吴俊升炸得血肉模糊，头顶穿入一个大铁钉，脑浆外溢，当即死亡;张作霖被炸出三丈多远，咽喉破裂;日籍顾问仪我满面是血，抱头大叫;校尉处长温守善被埋在碎木下面;周大文炸破了手，六姨太太炸掉了脚趾头;莫德惠也受了伤。
奉天省长刘尚清闻讯赶到现场组织救护。张作霖被送到沈阳“大帅府”时已奄奄一息，军医官抢救无效，于上午9时30分左右死去。死前张作霖对卢夫人说：“告诉小六子(张学良的乳名)，以国家为重，好好地干吧!我这个臭皮囊不算什么。叫小六子快回沈阳。”说完就死去了，时年54岁。炸车后不久，日本人先后制造了奉军军车脱轨事件和沈阳炸弹案，企图引起混乱。6月16日，1万8千余名日军士兵又在沈阳城南演习，竟然唱着“南满是我们家乡”的歌曲，暴露其占领东北的图谋。
为防止日军乘机举动，奉天当局决定对张作霖的死密不发丧，发表通电称：主座“身受微伤，精神尚好”，“省城安谧如常”。大帅府邸依然灯火辉煌，烟霞阵阵。杜医官每日仍按时到府上班，填写病案。厨房每日三餐仍按时送饭进去。家人一律不啼哭，不戴孝。日方天天派人“慰问求见”，都被“婉言谢绝”。主持家政的五夫人浓妆艳抹，与前来窥探虚实的日本太太们从容周旋。同时，奉天当局下令全城戒严以稳定局势。由于日军不知道张作霖是否毙命，未敢贸然行动。直至张学良潜回沈阳，才于6月21日公布张作霖死讯。