英语“银行”一词源于拉丁语“长板凳”。中世纪中期的欧洲，国家之间以及城乡之间日益频繁的商品交换通过定期集市进行。当时的欧洲货币种类繁多，币质低劣，伪币横行，于是，就出现了专门鉴定、估量、兑换货币为业的钱窗，称为兑换人。异地买卖携带大宗钱币非常不方便，且不安全。于是商人就把自己要带的巨额货币交给兑换人，由兑换人开出凭据，商人在经商地以凭据兑取他所需的当地货币，这种凭据就是最早的汇票。
有时，需要现款的商人还可以向兑换人借款，由借款人出具期票给兑换人，按期票规定的日期归还，并付给利息。这样，信贷业务开始发展起来。
开始时兑换人坐在一条长板凳上办公的，不久，长板凳就成了兑换人的代替名词。兑换不通过经营汇兑和借贷业务获得高额利润，银行就起源于银钱兑换业，兑换人久而久之就变成了银行家。
世界上第一家银行究竟建立在哪一年，成立于何地，对于这个问题，史学界的看法很不一致。一些学者认为，１１７７年建立的意大利的威尼斯银行，是世界上最早的银行。例如：美国《新哥伦比亚百科全书》的“银行业务”条就是这么写的。而有些学者却认为世界上第一家银行的建立要比这晚得多。
银行在我国起源于唐，在唐宣宗时期（公元８４７年～８５８年），苏州就有“金银行”出现。《太平广记》中有“行首率其党，纠集徒，迎拌赛社，所献无匹”，可见其资力之雄厚和店铺与人匠之多。北宋惠佑二年（１０５７年），蔡襄知福州时，作《教民十六事》，其中第六条为“银行轧造吹银出卖许多告提”。这是“银行”一词单独出现最早的时间。到了南宋乾道六年（１１７０年），建康（今南京）城内不仅有远谷市、纱市、盐市、牛马市，而且“银行、花行、鸡行、镇淮桥、新桥、筐桥、清化桥皆市也”。可见，银行那时在南京就已存在，而且成“市”。到了景定元年（１２６０年），竟成了一条“银行街”，其街非常繁华。
我国最早的官办银行是“大清户部银行”建于光绪三十年１９０４年。