孔子三十几岁的时候就开始开设“私塾”从事教育，既实现自己的抱负，也增加些许收入。当时的环境下，受教育是贵族和官僚子弟的特权，而孔子反对这种教育制度，提出了“有教无类”的主张，孔子曾说“自行束脩以上，吾未尝无诲焉。”意思是“只要是亲自送来干肉作为见面礼的，我从来没有不教他。”
孔子这种无差别教育的尝试，既是一种首创和突破，也是对自己的一种历练和丰富，含藏着后期提出仁——以人为本思想的原始意境，不分贫富、地域、学历、身份，教育的大门为所有人敞开，惠及一切平民百姓，并因“有教无类”而进一步又有了“因材施教”。
孔子的教育为孔子带来了“七十二贤”“三千弟子”，孔子一生很多思想的形成都是伴随着对弟子们的言教完成的，《论语》也是一部孔子教学的言谈纪录。
孔子死后，墨子、荀子、孟子等也都创办学校。到了战国时期，办学之风极为兴盛。私立学校成为社会上思想最活跃的地方，促进了春秋战国时期诸子百家的学术兴旺。