武士刀源自于中国的环首刀，五六世纪大陆和朝鲜引入横刀的钢铁锻造工艺是日本铁刀锻造工艺起源，同时结北海道阿依努人的蕨手刀，属于日本原创，其发展历程：上古直刃刀——蕨手刀（弥生时代末，古坟时代-平安时代初期）——毛拔形蕨手刀——毛拔形太刀——太刀——太刀，打刀，肋差，短刀。
日本武士刀的具体发明人已经无法考证了，但是他是由我国的唐代横刀演化而来的。
早在我国唐朝，日本就派遣唐使到我国学习文化，也把我国当时的冶炼技术带到了日本。
日本人对唐代横刀进行了改良和修饰，形成了自己的风格，也就是著名的日本武士刀，主要是把直的刀改成有弧度的，使它更适合日本武士使用。
