至少在1912年，仲裁作为一项法律制度在中国得以确立。但当时所谓的商事公断处只是一种调解机构，加上中国在1949年之前一直处于战争环境，所以在此之前，中国没有真正意义的仲裁员制度。

1949年以后，中国仲裁制度是区分国内仲裁和涉外仲裁两种情况而确立的，涉外仲裁是国内仲裁的先导。受前苏联仲裁制度的影响，关于涉外仲裁，当时的中央人民政府政务院于1954年5月6日举行的第215次会议上通过了《关于在中国国际贸易促进委员会内设立对外贸易仲裁委员会的决定》，依据该决定，中国国际贸易促进委员会在1956年通过了《中国国际贸易促进委员会对外贸易仲裁委员会仲裁程序暂行规则》，同年4月2日，对外贸易仲裁委员会(即中国国际经济贸易仲裁委员会前身)成立。中国国际贸易促进委员会在本国外贸、商业、工业、农业、运输、保险及法律方面聘请了21位专家组成仲裁委员会第一届委员会，这些委员同时也是对外贸易仲裁委员会首批全部仲裁员。至于1959年1月22日成立的中国海事仲裁委员会，情形大致相似，只是第一届委员会委员为25名。当时中国没有颁布《仲裁法》，这两个仲裁委员会为仅有的两个涉外仲裁机构，可以说，由仲裁委员会委员担任仲裁员是那一时期涉外仲裁员制度的显著特征，仲裁员人数较少，都是中国人。这让外国仲裁专家、当事人颇感迷惑。此种封闭的仲裁员构成一直延续到1980年。根据中央人民政府的两个通知，仲裁委员会的委员可根据实际需要增加人数。1984年2月，经国务院批准，对外经济贸易仲裁委员会在深圳经济特区设立深圳办事处(1989年改称中国国际经济贸易仲裁委员会深圳分会)，其仲裁委员会由15名委员组成，内有8名来自香港和澳门地区，这是中国涉外仲裁领域首次聘用境外人士为仲裁员。至1989年，中国国际经济贸易仲裁委员会开始实行统一的仲裁员名册，并面向国内外聘请仲裁员。1994年《仲裁法》生效后，因这两家涉外仲裁机构被认为符合国际惯例及《仲裁法》，无须重新组建，有关的仲裁员制度并无根本性变动。

关于国内仲裁，因仲裁机构曾长期附设于行政机关，仲裁员是专职的，并不面向社会聘任。当时的国内仲裁主要有经济合同仲裁、房地产仲裁和技术合同仲裁等。1994年《仲裁法》生效前，各级工商行政管理机关设有3,400个经济合同仲裁委员会，派出仲裁庭4,000余个，专职仲裁员8,800多人。房地产仲裁基本模仿经济合同行政仲裁模式，仲裁委员会设于政府之内，从事房地产仲裁的专职仲裁员全国有2,000余人。而根据1991年6月25日国家科学技术委员会(国家科委)发布的《技术合同仲裁机构仲裁规则(试行)》，中国公民经国家科委考核合格，可以在取得技术合同仲裁员资格之后，从事技术合同纠纷的仲裁工作。1991年10月17日经国家科委考核确认，有1,128人取得技术合同仲裁员资格。在国内仲裁中，技术合同仲裁制度具有突破性的价值，在仲裁员制度上尤其如此，即仲裁员不再完全是专职的从事仲裁事务的国家工作人员，可以面向社会聘任，接近于一般的商事仲裁员制度。《仲裁法》生效后，国内仲裁机构重新组建，新组建的仲裁机构均依据该法第13条规定的条件公开聘任仲裁员以设置仲裁员名册，仲裁员不再是专职从事仲裁事务的国家工作人员。

1994年《仲裁法》生效的初期，涉外仲裁机构在世界范围内聘请仲裁员，国内仲裁机构在中国内地主要是在该机构所在的省、市区域内聘请仲裁员。这一双轨制在1996年6月8日国务院办公厅发布《关于贯彻实施需要明确的几个问题的通知》(国办发[1996]22号)后，合而为一。尽管存在不同看法，国内仲裁机构开始受理国际性的案件，并在其仲裁员名册中列入港澳台及外国人士。1998年中国国际经济贸易仲裁委员会也开始受理某些无国际性因素的国内案件，至2000年，则无论国内国际案件，只要当事人选择到该会仲裁，均得受理。该会仲裁员名册并未专门为此作本质变动。但在国内案件中，当事人不被允许委任非中国内地的仲裁员。至于中国海事仲裁委员会，在早期只受理涉外的海事案件，国务院办公厅1982年下达《关于海事仲裁委员会扩大受理案件的范围和增加委员人数的通知》后，可受理当事人选择到该会仲裁的国内国际海事案件。