少隶军籍，骁勇善战，官至殿前指挥使。乾兴中期，改左班殿直、并代路巡检。徙延州西路都巡检使。
宋仁宗康定元年(1040年)，李元昊率西夏兵十万来犯，延州告急，宋军昼夜兼程，驰援延州。双方爆发三川口之战。此役宋军处于明显劣势，郭遵建议先侦后进，刘平不听，刘平下令郭遵和王信带骑兵半渡而击。李元昊军手下一名军人扬言要擒拿郭遵，郭遵“期必死，独出入行间”，挥铁杵击破其脑袋，两军皆大呼。郭遵又三出三入敌营，杀敌数百人，不久，其坐骑中枪，马踠仆地，郭遵被杀。三川口一战，郭遵战死，特赠果州团练使。
