实行人民代表大会制度以后，党外有些人士对人民政协的性质、地位、作用产生了某些疑虑。说什么：“真正的权力在人大常委，最高权力在中共中央，政协没什么权了。”有的则认为政协应是“权力机关”或“半权力机关”。针对这些言论和情绪，毛泽东亲自与党外人士座谈讨论，指出今后要加强统一战线工作，人大是权力机关，并不妨碍我们成立政协进行政治协商。毛泽东针对有人提出是否可以把政协搞成国家机关时，坚决地回答：不能把它搞成国家机关。因为人大和国务院是国家权力机关和国家管理机关，如果把政协也搞成国家机关，岂不成了二元论了吗？这样就重复了，分散了，民主集中制就讲不通了。要实事求是，政协不仅是人民团体，而且是各党派的协商机关，是党派性的机关。这不等于不重视它，而恰恰是重视它。共产党就是党派，也不是国家权力机关，但它的价值并不因此而有所降低。毛泽东的这篇讲话，不仅教育了当时持有不同意见的党外人士，消除了他们的不安情绪，而且对当时和会后的政协工作都有着极其重要的指导意义。
1954年12月21日至25日，人民政协第二届全国委员会第一次会议在北京举行。参加这届全国委员会的名额较上届增加了近两倍，达559人(上届只有198人)。委员名额中，中共党员150人，占26．8％，党外人士达407人，占73．16％。而且代表面极为广泛，许多旧军人、旧政协代表人物都参加了这届政协。
毛泽东主持了大会开幕式，周恩来作《政治报告》，陈叔通作《中国人民政治协商会议第一届全国委员会工作报告》，章伯钧作《关于中国人民政治协商会议章程(草案)的说明》。会议通过了《中国人民政治协商会议章程》、《关于第一届全国委员会工作报告的决议》以及《中国人民政治协商会议第二届全国委员会第一次全体会议宣言》。
周恩来在《政治报告》中指出，今后中国人民政治协商会议的任务，可归纳为下列五点：(1)协商国际问题。(2)对全国人民代表大会和地方同级人民代表大会的候选人名单，以及中国人民政治协商会议各级组成人员的人选进行协商。(3)协助国家机关，推动社会力量，解决社会生活中各阶级间相互关系问题；并联系人民群众，向国家有关机关反映群众的意见和提出建议。(4)协商和处理政协内部和党派、团体之间的合作问题。(5)在自愿的基础上，学习马克思列宁主义和努力进行思想改造。