金融业经过长时间的历史演变，从古代社会比较单一的形式，逐步发展成多种门类的金融机构体系。在现代金融业中，各类银行占有主导地位现代商业银行一般都综合经营各种金融业务。
中国金融业的起点可追溯到公元前256年以前
周代出现的办理赊贷业务的机构，周礼称之为泉府。
南齐时出现了以收取实物作抵押进行放款的机构“质库”，即后来的当铺，当时由寺院经营，至唐代改由贵族垄断，宋代时出现了民营质库。明朝末期钱庄北方称银号曾是金融业的主体。
后来又陆续出现了票号、官银钱号等其他金融机构。由于长期的封建统治，现代银行在中国出现较晚。鸦片战争以后，外国银行开始进入中国，最早的是英国丽如银行1845。随后又相继设立了英国的
麦加利银行（即
渣打银行）和
汇丰银行、德国的德华银行、日本的横滨正金银行、法国的东方汇理银行、
俄国的华俄道胜银行等。
本国人自己创办的第一家银行是1897年成立的中国通商银行。辛亥革命以后，特别是
第一次世界大战开始以后，中国的银行业开始有较快的发展，银行逐步成为金融业的主体，钱庄、票号等相应退居次要地位，并逐步衰落。中国银行业的发展基本上是与民族资本主义工商业的发展互为推进的。
这表明了金融业与工商业之间的紧密联系，及其对国民经济的重要影响。大商业银行除在本国设有大量分支机构外，往往在国外也设有分支机构，从而成为世界性的跨国银行。现代大商业银行通常是大垄断财团的金融中心。持股公司已成为当代发达资本主义国家金融业的重要组织形式。
与商业银行性质有所不同的是专业银行。专业银行一般由国家（政府）出资或监督经营。其业务特别是信贷业务，大都侧重于某一个或几个行业，并以重点支持某些行业的发展为经营宗旨。中央银行的建立是金融业发展史上的一个里程碑。在现代金融业中，中央银行处于主导地位。