王重阳1112年生于陕西省咸阳，他的家庭在当地非常富有，年轻时有良好的条件来读书和练习武艺。16 岁时，他所在的地区被中国北方的游牧民族女真人的王朝"金"国所占领。1132年他参加文官考试，由于得罪了考官没有获得成功。王重阳的武艺十分高强，于是又去参加武官考试，结果考中。正是由于这一点，后来无论是在民间还是在武侠小说中，都把王重阳描绘成一位武艺高强的道士。在道教中，通常把自己教派的创始人称为祖师爷，所以全真教就尊王重阳为自己的祖师爷。
当时统治他们的少数民族"金"王朝对汉族人采取民族歧视政策。所以考中的王重阳仅仅被任命担任一个很小的职位，负责在当地征收酒税。而王重阳才华出众，又胸怀大志，于是辞去了官职，到陕西省南部的终南山隐居。在终南山，他整天酗酒，自暴自弃，对生活失去了信心。也曾有人劝他信仰佛教，但他觉得对自己很不适合。
对王重阳来说，公元1159年是一个极为重要的时刻，他在一个叫甘河的地方遇到了一位神仙。这位神仙教给了他一些道术，从此他就一心修炼，甚至抛弃了家庭，把妻子和孩子都托付给他的岳父照顾，而自己一个人到终南山修行。他还在那里挖了一个墓穴，给它起了一个名字叫"活死人墓"，他就在墓里修炼，希望获得新的生命，三年之后，他从里面走出来，并把墓填平，创立了"全真教"，后来他的弟子们就在这儿建立了道观。王重阳历经千辛万苦，不断努力，终于赢得了越来越多的信徒，"全真教"的势力也越来越庞大。他有七位比较有名的弟子，被后人称为"全真七子"，其中有的还得到了当时皇帝的尊重和优待。
有关王重阳和他的徒弟们的故事，成为了后世民间传说和通俗文学的主题之一。著名武侠小说家金庸先生的作品中就有很多故事是以他们为题材的，而且这些作品不止一次地被改编成了电视剧或电影。