拜为州牧
郭伋的高祖父郭解，在汉武帝时期以仗义行侠而闻名。郭伋的父亲郭梵，曾任蜀郡太守。郭伋少年时便胸有大志，汉哀帝、汉平帝时期被征召到大司空府任职，几次升迁后担任渔阳都尉。王莽时期，郭伋担任上谷大尹，后升任为并州牧。
更始元年（公元23年），更始帝刘玄称帝，三辅地区接连遭受乱兵侵扰，百姓感到震惊害怕，有势力的宗族大户人家，各自拥兵自保，没人肯率先依附。刘玄平素常听到郭伋的声名，征召他来担任左冯翊，让他安抚百姓。建武元年（公元25年），光武帝刘秀登基称帝，建立东汉政权，任命郭伋为雍州牧，又转任尚书令，郭伋多次向光武帝进忠言谏诤。
安民降贼
建武四年（公元28年），郭伋出任中山太守。建武五年（公元29年），东汉消灭彭宠，郭伋再转任为渔阳太守。渔阳当时已经遭受王莽时期的动乱，又加上彭宠被打败，百姓较为刁猾和不善，贼寇无处不在。郭伋到渔阳后，宣示百姓有功必赏，并捕杀贼寇首领，盗贼由此溃散。当时匈奴多次侵扰东汉郡界，边境军民吃了不少苦头。郭伋整顿兵马，设计好攻守战略措施，匈奴由于害怕而远远离去，不敢再侵入东汉边界，百姓因此得以安居乐业。郭伋在任五年，户口人数翻了一番。
后来颖川地区盗贼群起，建武九年（公元33年），朝廷征召任命郭伋为颖川太守。郭伋受召见后辞行时，光武帝慰劳他，称他为贤能太守，希望他在地方任职能为京城带来好的影响，又说他虽然精通追捕之术，但是山道险恶，因而一定要谨慎小心。郭伋到颖川之后，招安山贼阳夏人赵宏、襄城人召吴等数百人，这些人都束手归降郭伋，郭伋将他们全部遣返回乡务农。他上书弹劾自己自作主张，光武帝很欣赏他的策略，因此没有责怪他。此后赵宏、召吴的党羽听说郭伋的威望和信义，远自江南，有的从幽、冀，不约而同前来归降，络绎不绝。
皇帝赏赐
建武十一年（公元35年），朝廷将朔方刺史归属并州。光武帝因卢芳占据北方，便调郭伋担任并州牧。郭伋经过京师时上朝谢恩，光武帝马上召见他，并将皇太子及诸王召来一起宴请郭伋，并与郭伋交谈一整天，还赏赐给他车马衣服等物。郭伋借机谈到挑选增补官职时，应挑选天下贤士俊杰，不宜专选用南阳人。光武帝接受他的意见。郭伋以前在并州时，平日施行恩惠仁德，到他后来进入州界，所到县邑，百姓扶老携幼，夹道欢迎。郭伋所过之处对百姓询问疾苦，邀请有德有才之人，设施几杖相随之礼，早晚参与处理政务。
辞职去世
当时朝廷很多人推举郭伋可以担任大司空，光武帝因为并州部分地区尚有卢芳可能造成威胁，而且匈奴还未被平定，想让郭伋在此多任职一些时间，故而不召。郭伋知道卢芳久为盗贼，很难一下子以力制服他，因此经常严守烽火台，公开悬赏捉拿，以使贼寇内部发生分化。卢芳部将隋昱于是谋划胁迫卢芳归降郭伋，卢芳于是逃奔匈奴。
郭伋后以年老有病为由上书朝廷请求辞职。建武二十二年（公元46年），朝廷征召郭伋为太中大夫，赐给他住宅一套，以及帷帐、钱谷，用以家用，郭伋立即将这些财物分送给亲属，自己一点也不保留。建武二十三年（公元47年），郭伋去世，时年八十六岁。光武帝亲自去吊唁，并赐他一块墓地。