Chiếc cầu này được các thương nhân người Nhật Bản góp tiền xây dựng vào khoảng thế kỷ 17, nên đôi khi người ta còn gọi là cầu Nhật Bản, tuy kiến trúc đậm nét Việt Nam. Theo truyền thuyết, ngôi chùa được coi như là một thanh kiếm đâm xuống lưng con quái vật mamazu, khiến nó không quẫy đuôi, gây ra những trận động đất. Năm 1653, người ta dựng thêm phần chùa, nối liền vào lan can phía Bắc, nhô ra giữa cầu, từ đó người địa phương gọi là Chùa Cầu.
Năm 1719, chúa Nguyễn Phúc Chu thăm Hội An, đặt tên cho chiếc cầu là Lai Viễn Kiều, với ý nghĩa là "Cầu đón khách phương xa".
Theo niên đại được ghi lại ở xà nóc và văn bia còn lại ở đầu cầu thì chiếc cầu đã được dựng lại vào năm 1817. Ngôi chùa có lẽ cũng được dựng lại vào thời gian này.
Chùa được trùng tu vào các năm 1817, 1865, 1915, 1986.