菖蒲因生長地不同分為泥菖蒲、石菖蒲、水菖蒲，皆具有香氣，叢葉翠綠，葉形似劍，端莊秀麗。《本草圖經》曾這樣描述它：“其葉中心有脊，狀如劍。”據傳，春秋戰國時期，鑄劍鼻祖歐冶子曾受到菖蒲的啟發，鑄就了“純鈞”寶劍。一陣風起于水波之上，那些直挺挺的葉子随風而動，如一支支寶劍紛紛出鞘，泛起一道道凜然的光芒。也難怪，有些地方的人會把菖蒲叫做“水劍”。
古人愛食用菖蒲。《抱樸子》中記載，周文王特别喜歡吃的這一口叫“菖蒲葅”，就是用菖蒲做成的腌菜。漢代已有詩雲：“石上生菖蒲，一雨八九節。仙人勸我餐，令人好顔色”；梁代江淹《采石上菖蒲詩》中雲：“冀采石上草，得以駐衰顔”，可見服食菖蒲以駐顔、長生，曾是一種很流行的觀念。《道藏》中甚至有《菖蒲傳》一卷，開頭即雲：“菖蒲者，水草之精英，神仙之靈藥也。”還詳細叙述了服食菖蒲的方法。
古人日常生活中大部分也離不開菖蒲。古人常用菖蒲釀成“菖蒲酒”飲用，尤其是端午，飲菖蒲酒或雄黃酒是一種習俗，五月初五甚至被稱為“菖蒲節”，那時還有在端午頭戴菖蒲的習俗，如古小說《風月夢》中描述揚州風俗雲，“那些村莊婦女，頭上帶着菖蒲、海艾、石榴花”；或者将菖蒲、蔥韭和艾葉捆在一起，做成老虎、人偶狀，後者代表即張道陵。端午這一天，亦可将菖蒲連帶韭菜、大蔥和艾葉混在一起放在門口、窗戶甚至屋頂上，其辛辣氣味足以讓鬼祟避之唯恐不及。而且菖蒲形狀類劍，亦有辟邪除祟之效。《燕京歲時記》雲，“端午日，用菖蒲、艾子插于門旁，以禳不祥，亦古者艾虎蒲劍之遺意。”古代端午還有燒煮菖蒲水洗浴或擦洗身體的風俗。古人重視菖蒲，更看中的是菖蒲的藥用價值。
菖蒲除了可以食用外，古人對菖蒲的品性也相當推崇。菖蒲與蘭花、水仙、菊花并稱為“花草四雅”，因菖蒲“忍寒苦，安淡泊，伍清泉，侶白石”，而居“四雅”之首。遠在堯時菖蒲就受到人們的尊崇：“堯時天降精于庭為韭，感百陰之氣為菖蒲，故日：堯韭。”據說堯韭生于農曆四月十四日，這菖蒲有了生日，便有了不朽的魂靈。修剪了根莖整了形，被文人雅士供在庭前案上，青翠挺拔勵志養神。李時珍認為，石菖蒲置一盆于幾上，夜間點燈觀書，能收煙氣，不傷眼睛；置星露之下，早晨取葉尖露水洗目，有明目之效。
養菖蒲也有學問，不能用河水和井水，要用泉水和雨水，最好是用一大缸存雨水，慢慢撇掉雜質，水純淨後再用來澆菖蒲；晚上放在外面接露水，早晨再搬到屋内。古人有《絕句》雲：“一窗涼氣如清霧，起看菖蒲葉上珠”，說的就是這種養種習慣。又石菖蒲喜洗根，常洗則葉細而秀。千萬不可近煙，煙熏則爛死；也怕凍，凍則苗槁。菖蒲養得好，活幾十年都不成問題。