大规模社会主义改造的展开，要求进一步完善国家领导制度，实施《共同纲领》规定的人民代表大会制度，制定中华人民共和国宪法，以便进一步发扬社会主义民主，保证从新民主主义向社会主义过渡的顺利实现。
为了筹备这次全国人民代表大会，中共中央做了充分的准备工作。早在1952年12月，中国人民政治协商会议全国委员会常务委员会举行第四十三次(扩大)会议，就中国共产党提议定期召开全国人民代表大会和地方各级人民代表大会问题交换意见。周恩来代表中共中央对中国共产党的提议作了说明。周恩来报告之后，委员们热烈地发表意见并坚决拥护中国共产党的提议。1953年1月，中央人民政府委员会召开了第二十次会议，讨论关于筹备并召开全国人民代表大会和地方各级人民代表大会问题。会议决定：1953年召开由人民用普选方法产生的乡、县、省(市)各级人民代表大会，并在此基础上召开全国人民代表大会。同时决定成立以毛泽东为首的中华人民共和国宪法起草委员会和以周恩来为首的选举法起草委员会。为了保证民主选举工作的顺利进行，保证广大人民群众享有真正的民主权利，1953年3月1日，中央人民政府颁布了《中华人民共和国全国人民代表大会及地方各级人民代表大会选举法》。随后，全国各地陆续开展基层民主选举。
1954年9月15至28日，第一届全国人民代表大会第一次会议在北京隆重举行。在1226名全国人民代表中，共产党员668人，占54．48％，非中共人士共558人，占45．52％。常务委员会的79名委员中，中共党员40人，占50.6％；党外人士39人，占49.4％。人大常务委员会的14名委员长、副委员长中，中共党员6人，占44.4％；党外人士8人，占55.6％。李维汉同志指出：“中央对这次全国人民代表大会的名额、对民主人士的安排原则、比例，以及对国家领导人员的安排，总的说来是成功的，体现了党与非党人士的团结合作，加强了党对国家机关的领导，使我国人民民主的政治制度更加健全和完备。”