徐邈是燕国人。丞相曹操平定河朔时，任其为丞相军谋掾，试守奉高县令，后任东曹议令史。建安十八年(213年)，汉献帝封曹操为魏公，允许其设置尚书、侍中和六卿等官。徐邈被任命为尚书郎。后来，徐邈出任陇西、南安两郡太守。
黄初元年(220年)，魏文帝曹丕即位，建立曹魏政权。此后，徐邈历任谯国相、平阳太守、安平太守及颍川典农中郎将等职，所到之处，都留下很好的名声，被赐予关内侯爵位。后转任抚军大将军军师。
太和二年(228年)，魏明帝曹叡因为凉州偏远，而与蜀汉接壤，于是任命徐邈为凉州刺史、使持节，领护羌校尉，出驻凉州。徐邈任职后，正赶上诸葛亮率兵出祁山，陇右三郡相继反叛。他派遣参军以及金城太守等部攻打南安叛贼，取得胜利。河右地区少雨，常因无粮苦恼。徐邈上书请求修缮武威、酒泉盐池，用以收藏敌人的粮食，又开凿水渠，招募贫民租种土地，使得家家丰足，仓库盈满。又支取州中一部分的军费，用来交换金帛犬马，供给中原人消费。同时逐步收缴民间私藏武器，统一保管，然后宣讲仁义，建立学校，禁止丰厚的葬礼，限制过度的祭祀。扬善惩恶，社会风尚大为改观，百姓心悦诚服。与西域的交往，边远少数民族的进贡，这些都是徐邈的功绩。后因讨伐反叛的羌人柯吾有功，被封为都亭侯，食邑三百户，加号建威将军。徐邈和羌人、胡人打交道，从不过问他们小的过失，但如果犯了大罪，先通报部帅。让他们知道，然后斩首以示众，因此深得百姓信服和敬畏。凡是朝廷赏赐给他的东西，他都分给将士，从不拿回自家。自己的妻子女儿却常常衣食不足。曹叡得知后，很是赞赏，常给他家里提供衣食等物。他惩治邪恶，修正冤假错案，一州之内，秩序井然。
正始元年(240年)，徐邈回到洛阳，担任大司农一职，转任司隶校尉。在任上，百官都很敬畏他。后因公事离职，又任光禄大夫。 正始九年(248年)，升任司空。徐邈感叹道：“三公(太尉、司徒、司空)是坐而论道的官位，没有合适的人就应空缺，怎能让我年老且多病的人去担任呢?”于是坚决辞让。
嘉平元年(249年)，徐邈去世，享年七十八岁。朝廷按三公礼埋葬，赐谥号穆侯。他的儿子徐武继承爵位。嘉平六年(254年)，朝廷追悼思念清廉高洁之士，魏帝曹芳下诏说：“突显贤能以及道德高尚之士，圣王历来重视;推举善人，引导后来人，孔子也很赞美，已故司空徐邈、征东将军胡质、卫尉田豫都在前朝任职，历任四代，率兵出讨，辅佐朝政，忠心为公，忧国忘私，不营家产，身死之后，家无余财，朕特别嘉赏他们。现在赐给徐邈等人的家属粮食二千斛、钱三十万，特此告示天下。”