粟末靺鞨部居靺鞨的最南方，早在唐初就已归附唐。七世纪末，粟末靺鞨首领大祚荣统一各部落(确切地说，是统一附唐的各部落)，建立了政权。后来唐玄宗封大祚荣为渤海郡王，加授渤海都督府都督。从此，粟末靺鞨建立的政权，就以渤海为号。
渤海境内有十多万人户，经济很发达。他们派人到长安学习，带回许多汉文书籍。他们把土特产人参、貂皮以及马、铜等输入内地，受到内地的欢迎。
靺鞨本字应作靺羯，是自“勿吉”音转而来，对此学界早有定论。靺鞨的粟末部实即勿吉的粟末部。最早记载勿吉粟末部的史书是《魏书》。《魏书》卷100《勿吉传》记载，从和龙出发，经善玉山、祁黎山、如洛瑰水、太鲁水，“又东北行十八日到其国。国有大水，阔三里余，名速末水”，“国南有徒太山，魏言‘太白’”。此勿吉居于松花江流域，南不包括长白山，北不包括黑龙江，显然是指勿吉的粟末部。《魏书·勿吉传》大部分内容都是对粟末勿吉历史的记载。对于勿吉人的其他部落，《魏书·勿吉传》仅提到“有大莫卢国、覆钟国、莫多回国、库娄国、素和国、具弗伏国、匹黎尔国、拔大何国、郁羽陵国、库伏真国、鲁娄国、羽真侯国，前后各遣使朝献”。所以，《魏书·勿吉传》所载于延兴年间赴北魏朝贡的乙力支，是出自粟末部的使者。据乙力支自称：“其国先破高句丽十落，密共百济谋从水道并力取高句丽”。可见，《北史》卷94《勿吉传》、《隋书》卷81《靺鞨传》所载粟末部“每寇高丽”是正确的，至晚在北魏延兴(471-476)以前，粟末部已与高句丽连年征战。
自夫余衰弱以后，肃慎系各部即逐渐向东南迁徙，入居松花江流域，因而才因水为名，号为粟末。与此同时，高句丽也不断北拓，攻占原属夫余的领土，435年李敖出使高句丽时，发现高句丽的疆界已“北至旧夫余”。粟末部与高句丽战争的起因当是为了争夺对夫余故地的控制。494年，“夫余王及妻孥以国来降”，投奔高句丽，高句丽人称其为“勿吉所逐”。当是粟末靺鞨也占有了部分夫余故地。但在此后与高句丽人的战争中，粟末部却渐处于不利地位，最终降隋内附。