多年草、高さ20～50㎝。匐枝を伸ばして広がり、叢生する。基部の鞘は紫褐色。葉は、革質で硬く、幅2～6㎜の線形。葉縁は上端半分は上向きに、下端は下向きにざらつく。小穂はまばらに3～5個つく。1番上が雄小穂、棍棒状で太く、長さ1～2.5㎝。その下に数個付く長さ1～2.5㎝の細い穂が雌小穂。苞は葉身が短く、有鞘、紫褐色を帯びる。鱗片は凹頭～鈍頭、、中肋の先が突き出し、濃色の脈があり、芒状に尖る。果胞は長さ2.5～3(3.5)㎜、有毛、赤褐色の脈があり、嘴は外に曲がる。果実は長さ約2.5㎜、3稜のある卵形、柄がある。柱頭は3岐。鱗片の色は赤褐色が濃いものや淡色のものがある。五井山で、雌鱗片が褐色のものが混生していたが、同じヒメカンスゲであった。2n=32, 33, 34, 36, 37, 38(近畿地方以北は2n=34)。花期は4～6月。
　トカラカンスゲ(var. scabrocaudata)は鹿児島県宇治群島、トカラ列島に分布する。別名はウジカンスゲ。基本変種のヒメカンスゲより大型で、葉が硬質。雌小穂の先端にしばしば短い雄花をつけ、雌花は密につく。オオシマカンスゲにも似るが、果胞の脈が太く、雌鱗片の芒が短い点が異なる。
　ウスイロヒメカンスゲ(var. pallescens)は本州、四国、九州に分布する。とくに瀬戸内海沿岸に広く分布し、乾燥したアカマツ林の林内や向陽地の道端に生える。叢生し、匐枝は無い。葉は葉は明るい緑色、軟質で縁はわずかにざらつく。苞の鞘は淡緑色。雄鱗片と雌鱗片は淡緑色～淡褐色で、先が凹形で短い芒がある。果胞は雌鱗片よりやや長く、5～7脈があり、まばらに短毛があり、先には短い嘴があり、口部は切形。柱頭は3岐。2n=32。
　コミヤマカンスゲ(Carex multifolia var. toriiana)は地上に匐枝を出さず、地中に匐枝を伸ばす。雄小穂が細長い。鱗片が濃褐色、先が芒状にならない。果胞が細長く、長さ3.5～4㎜。