雅科夫的母亲，是斯大林的第一任妻子，与斯大林结婚第二年就死了。而雅科夫，与父亲斯大林的首次见面，就是在母亲的葬礼之上，此时，雅科夫还是个不满周岁的婴儿。
而后整整十三年，斯大林在坐牢、流放，然后就是革命，雅科夫则在姨妈、舅舅的养护下长大。直到1921年，十四岁的雅科夫被带到莫斯科，第二次见到自己的父亲，此时的斯大林，已经身居高位，有年轻漂亮的后妈，有幼小的弟弟和妹妹，随后雅科夫便被送去铁路运输工程学院就读
雅科夫开始是一名工程师，苏联卫国战争爆发，和许许多多的苏联热血青年一样，雅科夫积极报名参军，后成为苏联第十六集团军十四坦克师三团二营中尉军官。在7月16日的斯摩棱斯克大卢基镇战斗中被俘，先是被关押在德国吕贝克的奥弗拉格克斯集中营里，后转到萨克森集中营关押.
1941年发动了大规模对苏联进攻，尽管苏联派驻日本东京的情报小组提前传递了战略情报，不过斯大林从德国战争态势分析，认为德国没有能力同时开辟东西两条战线，希特勒的当务之急应该是乘法国投降之际，挥兵渡过英吉利海峡，让欧洲成为自己的大本营，接着美国会参战进来，那么苏联就具备了强大的同盟，那个时候再和德国人撕破脸皮就更为主动有利了。
1941年时，德军攻入维捷布斯克市，战事极其惨烈，双方死伤人员几近百万，被俘虏好几万。当时斯大林的儿子雅科夫在该地驻军的榴弹炮团，可是大家都惊慌失措下，也让元首的儿子消失了，一时间也不知死活。 直到过了十多天，德军大肆扩散雅科夫已经被俘虏，并通过飞机在苏联驻地空头照片，这在当时处理不好可是会动摇军心的，德军也是抱着这样的目的，一个劲的宣传：“元首儿子都当俘虏了，你们下面的人，还拼命干什么”
在雅科夫被俘之后，要拿雅科夫与被苏军俘虏的德国元帅保卢斯交换，但却被斯大林一口拒绝了。给出的理由就是：“我不会用一个敌元帅去交换一个士兵。”我想这可以说是斯大林的铁面无私，但却不能说他冷酷无情。那么多的苏联俘虏，那么严峻的事关苏联存亡的卫国战争形势，那么复杂的矛盾和斗争，斯大林如果徇私而去做这种“交易”，全苏联全世界的人会怎么看?虽然爱自己的儿子，但这绝不是斯大林的风格。因此，铁石心肠未必，但人性大爱有之。
苏德战争爆发以后，苏联节节败退，为了挽救危局，1941年斯大林颁布命令：投降者将被视为逃兵，家庭成员将遭到逮捕并剥夺国家权力与救助。所以在此关头，斯大林作为最高统帅，必须以身作则。但私下里斯大林并没有停止对儿子的营救，他特别下令，责成有关方面进行过两次营救行动，但都没有成功。
1943年雅科夫·朱加什维利死于苏联战俘营，死因说法多样，最为普遍的一种说法是，由于和英国战俘打架，雅科夫·朱加什维利扑向电网，被监狱监管人员射死。