黄瓜原名叫胡瓜，是汉朝时张骞出使西域时带回来的；当时来自于外邦的东西前面大抵是要加个胡字，也就有了这个名字。后赵王朝的建立者石勒，本是入塞的羯族人，他在襄国登基做皇帝后，对称呼羯族人为“胡人”大为恼火，便禁止使用“胡”字。所以胡瓜就由此更名为黄瓜，这个叫法延续至今。
我们通常食用的是绿色的黄瓜，而真正成熟的黄瓜外皮呈黄色，籽也是黄色的，不过口感较差；因此黄瓜这个名字也可能来源于它成熟时的颜色。在古代，人们可能更倾向于食用成熟的黄色黄瓜，而在栽培过程中逐渐发现黄瓜生吃更清脆可口，所以就在未成熟的时候摘下来食用；久而久之，人们就以为绿色的黄瓜就是成熟的黄瓜了。此外，在中国某些地区，人们区分得更细致，未成熟的称为青瓜，成熟的才叫黄瓜；但在普遍语言习惯中，黄瓜这个名字已经固定下来，不论其颜色。
