我国银行同业拆借市场的发展经历了一个曲折的过程。1984年，以中央银行为领导、专业银行为主体、其他金融机构并存的金融体系在我国逐步形成，中央银行、专业银行以及其他金融机构之间及其内部的信贷资金运行体制也逐步形成。到10月份，中央银行确立了“统一计划、划分资金、实贷实存、相互融通”的信贷资金管理体制，明确鼓励金融机构之间资金的横向余缺调剂。一些地区开始出现同业拆借活动。不过，拆借量很小，不足以形成规模市场。

1986年，全国银行同业拆借市场真正开始启动。1986年1月，国务院颁发了《中华人民共和国银行管理暂行条例》，明确规定专业银行的资金可以相互拆借。从此，同业拆借活动开始在全国迅速展开，并建立了以广州、重庆、武汉、沈阳、成都等城市为中心的有形同业拆借市场。同业拆借冲破了信贷资金配置的“条块分割”和“地区封锁”，改变了“向上要钱多，自筹资金少”的传统状况，使得信贷资金在一个地区，一个系统有进也有出，加速了资金的周转。1987年，同业拆借市场得到长足发展，拆借量达2300亿元。

1988年3月，中国人民银行试图通过融资公司和证券公司等中介机构进行同业拆借市场操作。但是，问题随之出现：一些机构拆借资金不还，或用拆借资金进行固定资产投资等等。10月，中国人民银行提出对融资公司进行清理整顿。1989年初，中国人民银行决定撤销融资公司，同时指出中国人民银行要加强对资金市场的监管。

1990年3月，中国人民银行颁发《同业拆借管理试行办法》，首次比较系统地对同业拆借市场运作做了规定。《同业拆借管理试行办法》规定：同业拆借是银行与非银行金融机构之间相互融通短期资金的行为，拆借资金只能用于弥补票据清算、联行汇差和解决临时性周转需要，不得用于发放固定资产投资贷款，还规定了资金拆入比例与拆借利率等。《试行办法》对同业拆借市场的发育起到了一定的规范作用。经过整顿，同业拆借市场重新起步发展。1989年和1990年的同业拆借量基本稳定下来，达2300亿元左右。此后，股票与房地产投资日渐升温，社会上出现了乱设金融机构、乱集资、乱提高利率和乱拆借的现象。1992年下半年和1993年初愈演愈烈。同业拆借市场再次陷入混乱。

1993年6月，中国人民银行再次对同业拆借市场进行整顿。在整顿的同时，中国人民银行加强了对同业拆借市场的管理。中国人民银行继续下发了一系列管理规定，对同业拆借市场的规范起了良好作用。央行的整顿有效地限制了一些违规拆借行为。1995年，中国人民银行进一步提出“有堵有疏”的管理办法，通过建立计算机交易网络，将各地分散的同业拆借活动纳入统一的同业拆借市场。11月，中国人民银行决定撤销各商业银行的融资中心、资金市场等同业拆借中介机构，并从1995年第四季度起着手建立全国统一的同业拆借市场。