2世紀ごろ中国の漢詩に青松の煙の煤（煤もカーボンである）から墨を作ったと詠われており、 昔より黒色顔料としてカーボンが使われたことが判っています。
ヨーロッパでも15世紀には煤が印刷用 インキとして広く普及していました。
16世紀には天然黒鉛を細長く切り出して鉛筆の芯として使われ始めました。
18世紀末に木炭が導電性を持つことが判ってから、 カーボンの用途が拡大しました。
19世紀に入ってエジソンの白熱電球、ボルタ電池の電極、発電機のカーボンブラシなど カーボンは急速に使われるようになりました。

日本には嘉永6年（1853年）アメリカ人のペルリーが徳川幕府に電池付きで電信機を送りましたが、 これが工業製品としてカーボンが使われた最初と言われています。
その後明治17年（1884年）東京で小沢電炭製造所が 一次電池や乾電池の陽極を製造したのが日本でのカーボン製造の始まりです。
大正に入って日本カーボン、東海カーボン（当初東海電極製造）などが製鉄向けに電気炉用電極や電解ソーダ用電解板などの 大型炭素材の製造を始めました。

明治、大正時代は製造技術の基礎固めの時期でした。
丸型（人造）黒鉛電極、電気用ブラシその他の炭素製品で 外国製品に劣らないものが生産できるようになりました。
昭和に入って軍需産業の拡大につれてカーボン業界も伸張期を迎えましたが 第二次大戦末期には戦禍を受けて停滞しました。

戦後は全体としては世界的な鉄不足の中で電気炉用電極の生産を中心に復興し、 昭和30年始め頃にはアメリカに次ぐカーボン生産国になりました。
昭和40～60年重厚長大の波に乗って規模の拡大が続き 今日に至っています。

昭和の終わりと平成に入って鉄鋼及び自動車産業の成熟とともに主力製品の鉄鋼向け電極やアルミ精錬用の電解板の伸びは 鈍ってきていますが、代わって半導体製造や冶金分野などで高温処理される技術や装置が増えてきて、耐熱材料であるカーボンの出番がますます増えてきています。