和名の由来はゴウソ(Carex maximowiczii Miq.)に似て小く、小穂が緑白色であることから。
　根茎は短い。稈は叢生し、高さ20～75㎝、断面は鋭角の三角形で、基部は黄褐色または暗黄褐色の鞘で覆われ、網状の繊維状に崩壊する。葉は稈とほぼ同長。葉身は線形、幅3～5㎜、平らで、縁は外巻きする。下部の苞葉は葉状で、花序をはるかに上回り、鞘がなく、上部の苞は剛状。小穂は3～5個、近接する。頂生の小穂は雄性、まれに頂部に数個の雌花を付け、狭い円筒形、長さ45～65㎜×幅1.5～2㎜、花序柄がある。 側小穂は雌性、まれに頂部に数個の雄花がつき、長い円筒形、長さ2.5～6.5㎜×幅3～4㎜、密に多数の花がつき、細くてわずかにザラつく花序柄があり、最下の花序柄は長さ2～3cm、垂れ下がる。雌鱗片は淡色、鉄さび色の斑点があり、長円形、長さ約2㎜(芒を除く)、緑色の3脈のある肋が先で突き出し、切形～凹形の先のザラつく芒になる。果胞は暗褐色、鱗片より長く、広卵形または楕円形、両凸形、長さ2.5～3㎜×幅約1.8㎜、密にパピラがあり、縁の2肋を除いて脈はなく、広凸形で、先は急に狭まり短い嘴になり、口部は全縁または凹形。小堅果は褐色、わずかに緩く包まれ、ほぼ球形または広卵形、長さ約1.5㎜、密にパピラがあり、花柱は長く、基部は太くない。柱頭は2岐。花期と果期は3～5月。
　果胞の脈の見え方などで2変種に分類されていたが、最近は分類しない。ヒメゴウソ(var. gracilispica)は全体に小型で上部の雌小穂の柄が短く、雌鱗片の芒が短く、果胞が小さく（長さ2.5～3㎜）、果胞の脈が見えるもの。ホナガヒメゴウソ(var. phacota)はやや大型で、雌鱗片が長く果胞より突き出し、果胞が長く（長さ3～3.5㎜）、果胞の脈が不明瞭なもの。
　色がよく似たタチスゲ(Carex maculata Boott)は果胞に脈があり、柱頭が3岐。