语见《汉?司马迁?史记?卷六十七?仲尼弟子列传第七》：“子游既已受业，为武城宰。孔子过，闻弦歌之声。孔子莞尔而笑曰：‘割鸡焉用牛刀？’子游曰：‘昔者偃闻诸夫子曰，君子学道则爱人，小人学道则易使。’孔子曰：‘二三子，偃之言是也。前言戏之耳。’”
《明?陈仲琳?封神演义?第四十回》：“太师用兵多年，如今为何颠倒！料西歧不过是姜尚、黄飞虎等，割鸡焉用牛刀？” 
春秋时，孔子之徒子游，在鲁国武城作官。依夫子之教，以礼乐教化百姓。孔子达武城时，耳闻处处皆弹琴唱歌之声，便笑向子游曰：“割鸡焉用牛刀！”按孔子之意，即治此小城，何用此隆重之礼乐！ 子游曰：“吾尝闻夫子曰：‘君子学礼乐，则有涵养之心，能爱他人；常人学礼乐，则知谨守法度，易于使唤。’”孔子曰：“诸位学子，子游之言是也。方才之言，仅戏说耳。”
亦作“杀鸡焉用牛刀”。《元明?施耐庵?水浒传?第八十五回》：“常言道：‘杀鸡焉用牛刀。’那里消得正统军自去。只贺某聊施小计，教这一夥蛮子，死无葬身之地！”
亦作“牛刀割鸡”。《宋?朱熹?答蔡季通》：“旋运只是劳心之所致，小试参同之万一，当如‘牛刀割鸡’也。”
“割鸡焉用牛刀”。原指杀鸡毋需用宰牛之刀。后喻不必小题大作或大材小用，常用此语。