有关剑门关的典故非常多，其中最为著名的就是唐代大诗人李白《蜀道难》中剑阁峥嵘而崔嵬，一夫当关，万夫莫开所引用的五丁开山的典故，相传战国时期，秦惠王欲吞蜀，苦于无路进蜀，谎称赠五金牛、五美女给蜀王，蜀王信以为真，派身边五丁力士，劈山开道，入秦迎美女，运金牛，才开通了这条蜀道，称为金牛道，又称剑门蜀道。

三国时期汉丞相诸葛亮以汉德县有大剑至小剑隘束之路三十里，连山绝险，于此地，凿石架空为飞梁阁道，以通行旅，又于大剑山峭壁中断两崖相峙处，倚崖砌石为门，置阁尉，设戍守，谓之剑阁，成为军事要隘。

自隋朝以后，陕甘入蜀改道由葭萌县越牛头山，经达摩戍，民间称大木树，直抵剑门关口，小剑至大剑关口的栈阁道渐废，剑阁之名亦由剑阁道的简称成为剑门关的别称，因此，自唐至清的许多史籍中使用的剑阁、剑门之名均指剑门关一地，民国二年，即1913年改剑州为剑阁县后，剑阁才专指县名。