多年草。高さ50～150㎝。茎は条線があり、よく分枝する。托葉は葉柄の基部につき、波状歯がある。小托葉は葉の1～2節につく。葉は2～4回3出複葉。小葉は倒卵形～広倒卵形～楕円形、長さ1.5～4(5)㎝×幅1.5～4(5)㎝、下面は粉白色（緑白色）、脈が下面に隆起し、先が不規則に数個、浅裂し、裂片は鋭頭～鈍頭～円頭、基部は円形～浅い心形。茎頂の大きな円錐花序に直径約1㎝の淡黄白色の花を多数つける。小花柄は長さ3～8[6～16]㎜。花弁はなく、花弁に見えるのは花被片(萼片)で、3～4個つき、長さ2～2.5㎜、3脈があり、花後にすぐ落ちる。雄しべは多数つき、葯を含めて長さ4.5～6㎜。葯は長さ1.3～2㎜。雌しべは2～4個、花柱が無く、子房に直接、柱頭がつく。柱頭は3角状長楕円形、鈍頭、長さ約1㎜。痩果は雌しべと同数の2～4個ずつつき、種子を1個入れる。痩果は無柄、卵形～楕円形、長さ(2)2.5～3㎜、明瞭な数本のうねがあり、嘴は短い。2n=42。花期は7～10月
　基準変種（又は基準亜種）の var. minus は日本にはなく、アジア、ヨーロッパ、アフリカに広く分布する。葉が長さ0.7～1.5㎝、幅0.4～1.3㎝と小さい。
　亜高山から高山に生えるオオカラマツvar. kemense (またはsubsp. elatum) は小花柄が15～30(50)㎜と長く、花つきがまばらに見える。　
　カラマツソウは花序が傘状に広がり、雄しべの花糸の先が幅広くなり、白色で目立つ。