Người Mông gọi khèn là krềnh và đến nay vẫn lưu truyền một truyền thuyết cảm động về sự tích loại nhạc cụ này. Chuyện kể rằng ngày xưa, trong một gia đình có 6 anh em trai vừa ngoan vừa chăm chỉ, hiếu thuận với cha mẹ. Hàng ngày, anh em họ lên rừng hái củi, săn bắt chim thú về chăm sóc cha mẹ già. Người mẹ không may lâm bệnh nặng và mất đi. Người cha cùng các con buồn khóc, không thiết ăn, không thiết ngủ. Vì quá nhớ thương vợ nên người cha cũng mất sau đó ít lâu. Đau thương chồng chất, 6 người con cũng lần lượt ra đi. Để tưởng nhớ những người con hiếu thảo, bà con quanh bản đã sáng tạo nên 6 ống khèn từ thân cây trúc phơi khô, ghép chung để tạo thành cây khèn. Tiếng khèn cất lên vừa hoành tráng, vừa bi ai và nhìn vào đó như thấy được tình anh em gắn kết trên loại nhạc cụ đặc biệt này. Tiếng khèn vang vọng giữa núi rừng như khắc nỗi buồn vào đá núi chênh vênh. Ban đầu, khèn chỉ được người đàn ông Mông thổi trong tang lễ tiễn đưa người quá cố. Sau này, loại nhạc cụ mang âm hưởng của núi rừng đã được sử dụng rộng rãi, như một yếu tố tinh thần không thể thiếu trong các hoạt động cộng đồng của người Mông.

Chiếc khèn đã trở thành biểu trưng của văn hóa người Mông bởi nó hiện diện trong nhiều thời khắc vui, buồn của mỗi gia đình: từ lễ Tết đến hội hè, từ đám hỏi, đám cưới đến khi tiễn đưa người thân khuất núi. Trong câu dân ca, người Mông thể hiện lòng tin của mình với tiếng khèn linh thiêng rằng: “Con trai không biết thổi khèn thì cây ngô không mọc. Con gái không biết nghe tiếng khèn thì dòng suối không biết chảy đi đâu”.