南洋一词最早大概出现在明朝。明朝人口迅速膨胀，加之政府禁海闭关锁国，导致国际贸易受阻，以及渔民生活艰难。明朝的口粮已无法养活日益增加的人口。这种情况下，东南沿海许多福建广东人只能出海往南寻求新的生路。
他们离开故土，大概以偷渡的方式来到了中南半岛、菲律宾群岛、印尼群岛等地，在这些地方耕作或做生意。当时，就被称为“下南洋”——这是一种行为，至于南洋到底是哪里并不十分明确。
当然，明清两朝都实行海禁政策，下南洋的行为是不被允许的。这群出海谋生的人被当作天朝弃民，如果被抓住将会受到极其严厉的惩罚。
直到19世纪中期解除海禁后，清朝人可以正大光明出国了，这一时期有更多福建广东一带的沿海居民下南洋。现在东南亚华人的祖先大多就是这时候迁移过去的。
总的来看，中国人的“下南洋”是平和的，是非国家行为的，只是一部分老百姓为了生存的个人行为。
其实，所谓南洋是一个相对的概念。在明清时代，有时连台湾海域都被称为南洋。在那时的某些北方人眼中，甚至浙江以南的海域都是南洋。清朝洋务运动时就有南洋水师，或称南洋舰队，而它主要负责江浙一带的海防事务。