他的生平充满了神秘色彩，生辰和籍贯都有争议，一般认为他是元朝末年、明朝初年的武当山道士。
据传，他丰姿魁伟，大耳圆目，须髯如戟。无论寒暑，只一衲一蓑，一餐能食升斗，或数日一食，或数月不食，事能前知。游止无恒。居宝鸡金台观时，有死而复活之说，被道徒称为“阳神出游”。入明后，他自称“大元遗老”，时隐时现，行踪莫测。
张三丰认为古今仅正邪两教，其余皆为创始人不同，不过修身利人的本质相同。他主张：“玄学以功德为体，金丹为用，而后可以成仙。”在各种资料中，还有全弌、玄玄、三仹、三峰、三丰遯老、通、玄一、君实、居宝等诸多名号。
他曾经返故里扫墓，却被认为已过百岁；又在燕京遇到邱道人相叙，为何邱非早年相识之高士？别后复至秦蜀，又游荆楚之吴越，再侨寓金陵传道沈万三。此外，他还曾与杨轨山结庵于武当山，并且预言此山将大兴，最终确实发生了如此变化。
洪武十七年至十八年间，他拒绝朱元璋的召请；洪武二十三年离开武当再次云游；洪武二十五年遁入云南，与沈万三合二成为夫妻得服药飞升。在永乐初期，当朱棣派胡广寻访未果时，即命胡广处死，但胡广最终成功找到并见证了他的超凡能力。
随着时间推移，这位道家的神迹愈发显著。他书字函告孙碧云禀告永乐帝，以示长生之术，因为皇帝渴望长寿，这也近乎常理。此外，在清代汪梦九先生曾遇到他多次显示教导，此时他应有四百七十余岁。而《南召县志》记载其故里石碑及草庵遗址，可见其影响力所及范围广泛。
尽管历史上关于他的许多传说存在争议，但张三丰作为一个代表人物，对中国文化产生了深远影响。在宗教界爆发的大辩论中，他虽然遭受惨败，但最终建立了新的道派——三丰派，为中国道教发展史上的最后一次风潮开启序幕。此外，他倡导的“三教同一”思想，也对儒佛两家产生了一定的影响，使得人们开始认识到各自宗教之间的共同点和价值。
