仓慈起初担任过郡里的小吏。建安年间，魏太祖曹操在淮南招募人民屯田，让仓慈担任绥集(安抚)校尉。 魏文帝黄初末年，仓慈做了长安令，为官廉洁节俭有法度，下级官吏和老百姓既害怕而又爱戴他。
魏明帝太和年间，调任敦煌太守。敦煌郡在西部边疆，因为战乱和内地隔绝，太守职务曾空缺二十多年，因此当地豪门大户强横自大，于是成为习俗。前任太守官员只不过遵守奉行旧有的各项制度而已，对这类坏习俗没有什么纠正和改变。仓慈到任以后，抑制打击豪强势力，救济照顾贫弱的百姓，非常符合当地处理政事的实际情况。过去大户族所占田地有剩余，但是普通百姓却没有立锥的土地，仓慈割取大户族多余的田地按人口都分配给贫弱的百姓。只让老百姓逐渐归还土地的成本。
从前所属县城的讼诉案件大量堆积，县令不能判决，多数都汇集到郡太守这里。仓慈都亲自去审阅，斟酌挑选轻重，如果不是犯了严重的死罪，只是用鞭或棍责罚后就释放了。一年当中判刑的还不超过十个人。又有一件事是平常西域各族胡人要来中原贡献财物，但各豪门大户多拦路阻断，不准过往。在和胡人买卖贩运的时候，欺骗侮辱轻视，交易是否公平也大多说不清。胡人们对此怨恨，仓慈都慰劳他们。凡是要去洛阳的，就为他们出具过关的凭证并封盖官印;想从敦煌郡返回西域的，官府给他们公平换取钱物。常常用官府现成财物和他们进行交易。还派官吏和百姓在路上护送他们，因此老百姓和各族胡人一起称赞他的品德和恩惠。
死于任上几年后仓慈死在官任上，郡里的官吏和百姓悲伤痛苦好像死了亲属一样。用画图绘制他的形象，怀念他生前的容貌。等到西域的各族胡人听到仓慈的死讯，都共同聚会在主管西域的将军戊己(派驻巡视)校尉和当地官长的驻地举行吊唁活动，胡人放声大哭，有的用刀划破面容，以表明出自内心深处的诚意。还为仓慈建立祠堂，在遥远的西域共同祭祀。