然而，尽管一元立法体制的设计在理论上很完美，也与洛克等启蒙思想家阐述的“立法至上”观念非常一致，同时又在思维的潜层面上与中国古代“法自君出” 的观念很相似：视法为人世间的最高权威的意志，无论刑、法、格、式、律、令、例、敕，都由皇帝颁布，不容僭越。但实践表明，这种制度设计显然无法应对象中国这样一个历史悠久、幅员辽阔，刚刚取得和平和民族独立的大国的治理需要。因此，1954年宪法出台后不久，立法权的配置很快就因中国社会现实的需要而发生分化：1955年和1959年，全国人大先后授权其常委会制定法律和修改全国人大制定的法律。至于国务院，其成立伊始，就有立法活动或制定规范性文件的活动，并且这些规范性文件在当时行政管理方面发挥了不可或缺的作用。但实际上国务院部门在很长时间内并不拥有法定立法权，其“立法”活动亦不被视为真正意义上正式的立法活动。

　　这以后直到文革结束的二十年中，法制建设在中国忽废忽兴、不堪回首。根本谈不上由法律对社会关系进行调整。而其间颁布的另外两部宪法（1975年宪法和1978年宪法）在立法权方面基本沿袭了1954年宪法的规定。因此可以说，这段时期内不论在形式意义上还是实质意义上，都没有真正法律意义上的“行政立法”可言。

　　历史进入70年代末，十一届三中全会将立法工作提上国家生活的重要议程，进而国务院、省级地方人大、省级地方政府、国务院部委、省会城市和一些较大市的人大和政府相继取得了规则制定的权力。

　　1979年，全国人大修订地方组织法，授权省、自治区、直辖市的人大及其常委会制定地方性法规；1981年全国人大常委会《关于加强法律解释工作的决议》有保留地把对法律的解释权下放给国务院及其工作部门、最高人民法院、最高人民检察院。

　　1982年《宪法》除肯定前述做法外，还授权国务院制定行政法规，授权国务院部、委和省、自治区、直辖市人民政府制定规章。这样，1982年《宪法》就以根本大法的形式赋予了国务院部委具有先前不曾有过的法定的制定规范性文件的权力[7] .《国务院组织法》也对此作出了相应规定[8] .但由于当时部门规章能否作为办案根据的问题尚未解决，导致理论界和实务界对国务院部门规章是否属于法的范畴仍存在很大的争议。

　　1983年全国人大常委会通过《关于授权国务院对职工退职退休办法进行部分修改和补充的规定》，1984年又通过《关于授权国务院改革工商税制和发布有关税收条例（草案）的决定》，国务院得到了 “在实施国营企业利改税和改革工商税制的过程中，拟定有关税收条例”的特别授权。最大规模一次授权是在1985年，《关于授权国务院在经济体制改革和对外开放方面可以制定暂行的规定或者条例的决定》使国务院获得了大宗的立法权，对其特别授权扩展至-对于有关经济体制改革和对外开放方面，制定暂行的规定或者条例等方面。

　　1986年，随着地方组织法的再次修改，地方性法规和行政规章的制定权扩大到省、自治区政府所在地的市和经国务院批准的较大的市的人大、人大常委会和人民政府。

　　至此，以最高权力机关为唯一的立法主体的制度几经演变，至80年代中期已基本成型。虽然法学界对上述机关制定的规则能否称为“法”、对它们的制定规则的行为能否称为“立法”尚存争议，对我国的立法体制到底应如何归纳亦存在着颇多争论：应当归纳为一元多级、二元多级还是三元多级？然而规则制定权在不同性质、不同层级的国家机关之间陆续发生分化已成为不争的事实。

　　1989年《行政诉讼法》颁布之前，司法实践中人民法院办案时不能适用规章。《行政诉讼法》实施后，规定人民法院审理行政案件可以参照规章，行政规章才可以称得上至少属于准法的范畴，对此学者也少有异议。但“参照”一词意味着，只在某些场合下，规章才是法的形式。这就表明其仍不是典型意义的、完全的法。不过1990年国务院颁布的《行政复议条例》和1999年全国人大常委会制定的《行政复议法》则分别规定了规章可以作为复议机关审理具体行政行为合法性与合理性的依据之一。[9] 这里可以看出在行政执法阶段，规章是完全可以作为行政机关的执法依据的。1996年《行政处罚法》规定了规章对部分行政处罚（警告和一定数额的罚款）的设定权。对上述数部法律的规定，法学界虽也存在某些争议，但可以说，根据《宪法》和《国务院组织法》的规定，《行政诉讼法》、《行政复议法》（还有之前的《行政复议条例》）和《行政处罚法》的相关规定初步确立了规章在规则设定和法律适用方面的地位。