依据辖内的芝山岩遗址所得到的最新考古研究，台北市于旧石器时代晚期即有人类居住。也就是，当史前时代，台北仍为一个大湖泊时；仅有诸如圆山，芝山岩等高地浮现当时，就有其人类活动。他们食后所弃乌蚬壳、蚝壳、钟螺壳及川蜷螺等半碱水性和海栖性贝壳类成为贝冢，除此，亦有陶器、石器、骨器等遗迹。

根据记载，台北最早为原住民中凯达格兰人（属于平埔族）的生活地，明代初期开始有汉人来到此地。从17世纪初西班牙人占领台湾北海岸开始，历经荷治时期与郑氏王朝，到清代初期以前，此地均荒芜而未有大规模开拓，被统治者视为化外之地。1709年，泉州人陈天章、陈逢春、赖和永、陈宪伯、戴天枢合股立陈赖章垦号，向台湾府诸罗县申请开垦大佳腊地方，成为台北盆地开垦活动的开端。“大佳腊”之后多写作“大加蚋堡”，源自平埔族语“tagal”。