So với cây kiếm của châu Âu thì kiếm Nhật có cán dài và chỉ có một bên lưỡi. Trong nhiều bộ phim ta thấy người ta cầm kiếm bằng 1 tay nhưng trên thực tế thì cây kiếm này rất nặng và binh lính khi ra trận thì phải cầm kiếm bằng 2 tay. Về cấu tạo thì phía trong cây kiếm làm từ sắt mềm và phía ngoài cây kiếm làm bằng thép cứng.
Kiếm Nhật (nihonto) đã đóng một vai trò khá quan trọng trong lịch sử Nhật Bản và đã trở thành huyền thoại. Kiếm ngoài mục đích chiến đấu còn là biểu tượng địa vị của Samurai. Ngày nay người ta xem nó như một sản phẩm nghệ thuật truyền thống . Khi kiếm bị gãy cũng có nghĩa là samurai bị hạ (defeated).
Một thanh kiếm tốt phải đáp ứng 3 yêu cầu khá mâu thuẫn với nhau: cứng cáp, khó gãy, có lực cắt tốt và cứng cáp thì phải dùng loại thép cứng trong khi yếu tố khó gãy lại là yêu cầu của một loại thép mềm. Lịch sử kiếm Nhật Bắt nguồn từ lục địa Châu Á,các thanh kiếm được du nhập từ Hàn Quốc , có dạng thẳng được gọi là KEN
Năm 794 - 1185, những thợ rèn Nhật Bản đã chế tạo ra loại kiếm có dạnh cong cong,dùng cho các Samurai chiến đấu trên lưng ngựa. Có thể nói đây là thời đại khai sinh kiếm Nhật chính thống. Thanh kiếm được gọi vào thời kỳ này là TACHI,dài khoảnh 9 tấc và được mang ngang thắt lưng .
Thời kì Kamakura (1185-1332), chiến tranh xảy ra liên tục,có thể nói đay là thời đại vàng son của kiếm Nhật.Trước thời kỳ Kamakura ,kiếm chỉ được rèn từ một thanh thép,về sau vua Toba đã tập trung các thợ rèn nổi tiếng nhất Nhật Bản . Họ tìm cách luồn một lõi thép có hàm lượng carbon thấp (thép mềm) vào ruột thanh kiếm. Điều này khiến thanh kiếm có một bề ngoài cứng cáp,lưỡi săt bén,trong khi lõi lại là thép mềm làm tăng độ bền và dẻo của thanh kiếm , đáp ứng được 3 yêu cầu của một thanh kiếm tốt.
Một số cải tiến kỹ thuật khác được phát triển sau hai lần xâm lăng của quân Mông cổ vào cuối thế kỉ 13 . Thanh kiêm Tachi được cải tiến cho rộng bản, dày và nặng hơn, nó đòi hỏi người sử dụng phải cầm hai tay , gây khó khăn cho các kỵ binh cho nên thời kì này vai trò của bộ binh được đề cao . Nhưng cũng chính điều này đã đặt ra một yêu cầu là cần phải có một vũ khí hỗ trợ khi cận chiến và từ đó đoản kiếm ra đời . Đoản kiếm đầu tiên có tên là Tanto dài khoảng 3 tấc