和名はヒゴクサに似て、雌小穂の柄がないことから。果胞の嘴が短く、柱頭も短いなど他の相違点も多い。
　細長い根茎を横に伸ばし、まばらに叢生する。基部の鞘は淡色。葉は幅2～4（6）㎜。小穂は2～4個つく。頂小穂は雄性、長さ1.5～3㎝の線形、柄は長さ2～15㎜。雌性の側小穂は、長さ7～12（20）㎜、幅6～7㎜の円柱状、ほとんど柄が無い。最も上の雌小穂はほとんど柄がなく、上から2番目の雌小穂の柄は長さ0～1.5㎜と短い。3番目の雌小穂の柄は長さ2～5㎜。小穂は直立し、果期にも垂れ下がらず、柱頭はヒゴクサほど長くない。果期には果胞は膨らみ、軸にほぼ直角になる。果胞は長さ3～3.5㎜、嘴は短く、口部は2歯。雌鱗片は果胞より短く、鋭尖頭。果実は果胞よりかなり小さく、長さ1.8～2㎜の3稜のある倒卵形、柱頭は3岐。
　ヒゴクサは側小穂に長い柄があり、側小穂が果期に垂れ下がる。柱頭が長く、果期にも残る。果胞の嘴が長い。
　ヒメシラスゲは小穂にほとんど柄がなく、茎の上部に小穂が集まり、直立し、果期には側小穂が開出する。柱頭は短い。