戰國時齊國有一位君主姓田名辟疆，(即齊宣王)，他很喜歡音樂，尤其喜歡吹竽。
竽是一種樂器，須把很薄的銅片製成葉子狀，裝在管子上頭，吹起來能夠發出聲音；再把這樣的管子一共三十六根合在一起，裝在一個壺子上面 才能造成一個竽。
宣王為了要常常欣賞竽樂的吹奏，而且是合奏，便經常供養著三百名吹竽的樂手，每次表演，便三百人一起演奏著。當時齊國有一個人自稱「 南郭處士」，他的真實姓名已經無從考察了，他向齊宣王申請加入吹芋隊裡；齊宣王很高興，並給他很優厚的待遇。
後來齊宣王死了，齊湣王接著登位，他也喜歡聽吹竽，但是他不喜歡聽合奏，偏愛欣賞獨奏。他叫那三百名吹竽手，挨著次第輪流獨奏給他欣賞。 命令一下，「南郭處士」便悄悄的逃得無影無蹤，原來他根本不懂得吹竽。即使在那音樂大隊中混充了多年，也不曾把吹竽這種藝術學會。他深怕在齊湣王要他表演獨奏時露出馬腳，就算湣王不追究處罰他歷年來的欺君之罪，但只要想到自己拿著那三十六根管子，站上臺前，胡奏一頓，吹不成曲，也夠教他難堪了，因此他選擇三十六計，走為上策。
今人遇到那些沒有本領，卻去矇混擔當職務的人，便譏他是「濫竽充數」，意思是說：他沒有真才實學，卻去冒充遞補工作人員的數額。但有些真有本領的人，也常謙稱自己是「濫竽充數，這便是客套語了。因此這句成語可用作自謙之詞，也可用來嘲諷別人。