晉代書法名家王羲之的兒子王獻之，幼年時在學塾裡讀書，被一位同學批評他不懂得樗蒲之戲(樗蒲是古時博戲的一種)，說他的學識不夠，像一個人站在豹子的身邊，用一條空心的管子來窺看，只能看見豹子身上的一些斑紋，看不見豹子的全身一樣。這個故事後來變成為「管中窺豹」這句成語，用來比喻學識少，所見所聞都不夠豐富的人，和「坐井觀天」一樣的意思。
這是很切當的比喻，因為管子的口徑小，而又貼近者豹子的身體，所以只能夠看到豹子身上的一些斑紋；假如在看過豹子後，以為一塊小小的斑紋便是豹子的全貌，這是非常可笑的。在民間傳說中，也有類似的故事：有一個瞎子，摸到大象的腿，就以為大象的形狀如一條柱子，這不是和「管中窺豹」、「坐井觀天」一樣可笑嗎？
不學無術的人，往往只知道一點點就以為知道很多，這種態度是非常要不得的。在日常生活中，很多事情都可以用這句成語來比喻，例如：有人學習一種專門的學問或技術，經過若干時候已略知皮毛，而他卻以為自己已經學習成功，盡知其中奧秘，若有人對某件事情，只明白了其中一部分，他卻以為自己已經完全知道了事情的真相都可以說是「管中窺豹」。