缺少一個能夠整合整個佛教的思想體系
8世紀中期，日本從形式上成功引入了佛像、佛經、修行組織，所謂僧伽3大要素，即中文所稱佛法僧，正式成為佛教國。但這並不意味著釋迦牟尼創立的原教旨佛教被引入了日本。大乘佛教中出現的眾多佛陀，和日本本土眾神一樣，被視為擁有神秘咒力的崇拜對象，僧人作為能夠召喚出眾佛陀法力的咒術儀式的執行者，一直深受器重。但為了斬斷自身煩惱而加入僧伽苦心修行的正宗僧侶，在日本僧人群體中是看不到的。
奈良朝廷為了向世人廣泛宣揚佛教擁有的鎮護國家的咒術之力，便開闢了學問場所，讓眾僧侶學習佛教知識。在那裡，各種佛教哲學和戒律被分為6大宗派單獨授課，學習這些難解的教義，被認為是判斷僧侶是否保有特殊能力的標誌。這六大宗派分別是三論宗、成實宗、法相宗、俱舍宗、華嚴宗、律宗，後世被統稱為「南都六宗」。
可惜這些充其量只是類似取得國家認證資格所需的課程，並不是一個可以讓僧侶全面地理解整個佛教的綜合性教育體系。在這個時期的日本，能夠俯瞰整個佛教、從整體把握佛教的思想體系還不存在。
以法華經為頂點，將所有經典分層排序
這種情況一直持續，直到8世紀末到9世紀初，恰逢日本從奈良遷都至京都，兩種體現佛教內核的佛教思想同時從中國傳到了日本。一個是最澄帶回日本的天臺宗教義，另一個是空海帶回來的真言宗教義。這兩種教義成為了後來日本佛教的基礎。
天臺宗誕生於中國，是當時最前沿的宗派。該宗派對西元1世紀以後從印度中國的各種佛教思想全盤吸收，對這些不同思想構築了複雜的理論相關性，試圖對廣闊的佛教世界進行總攬性的理解。當然了，這些南轅北轍的佛教思想本來就是在印度不同時代不同人群中各自產生的，其實不該混為一談。但是天臺宗卻盡力使用各種理論，試圖將它們統一起來。然後將《法華經》置於所有經書之上。換而言之，天臺宗是在將《法華經》作為頂點，給所有佛經分層排序的過程中誕生的中國本土宗派。
最澄正式把該宗派介紹到日本後，受到了日本佛教界的熱烈歡迎。因為以往只能做碎片式理解的佛教終於可以放到一個統一的體系下來理解了。
作為最高思想的魅力
可是，才沒過多久，空海又把真言宗的教義帶回了日本。真言宗不像天臺宗將南轅北轍的教義統一到一個框架內，而是印度佛教在發展的最終階段出現的「密教」，教義很單一。「在已有思想的基礎上，創造一個能夠相容並包的更上位的思想體系」——在重複這種操作而發展過來的佛教史的最終階段出現了密教。密教自認是應該站在所有佛教思想之上的，擁有最高位神秘力量的佛教。
在外部不存在救世主的這個世界，靠自己的努力實現自我改革，是釋迦牟尼的教義。這一教義在之後的大乘佛教發展中逐漸帶上了神秘主義色彩，到了最終階段的密教，開始宣說「參悟自身與宇宙能量的聯繫，通過與之一體化而成佛」。最終變得跟印度教的教義別無二致了。一般認為，密教的奧義是只傳授給某些特定個體的神秘主義教義，和宇宙能量融為一體的體驗也不能靠語言來廣泛傳播。
空海將這種密教作為一個確切的體系完完整整地搬回了日本。對於本就將佛教作為神秘的咒術宗教引進的日本佛教界來說，空海的密教是最淵博最有效力的教派，比起從理論上將各種教義置於統一框架下示人的天臺宗，看上去似乎更加堅固且不可動搖。最澄的弟子們對此也深以為然，於是便將最新傳來的密教教義疊加在自家天臺宗教義上，逐漸給整個天臺宗披上了一層密教面紗。
如此，帶有淡淡密教色彩的佛教多種教義集合體的天臺宗，和只傳播佛教發展的最終形態「密教」的真言宗，教義迥異的密宗雙雄結構就在日本確立了。
