歯みがき粉についての最も古い記録は、古代エジプトの「パピルス・エーベルス」に登場します。

そのころは、木の実や火をおこすための火打ち石を細かくくだき、その粉をミツで練って、歯みがき粉にしていました。ザラザラとした粉は、歯の表面についたよごれをきれいに取り除くのに便利だったのです。
ギリシャやローマ、中国でも、石や骨を粉にし、薬草などを加えた歯みがき粉を使っていました。
　
日本では江戸時代ごろから、今の千葉県館山市付近で採れた砂に香りをつけた歯みがき粉が出回りました。その辺りは房州（ぼうしゅう）という名前で、そこで採れた砂は「房州砂」と呼ばれていました。

明治時代には、ヨーロッパなどから、炭酸カルシウムなどを練り合わせて作った練り歯みがきが伝えられました。最初は、ビンなどの容器に入っていた為、歯ブラシでこすり取って使わなければなりませんでした。1911年（明治４４年）、今のようなチューブ入りのものが売り出され、使いたいだけしぼり出せ、衛生的だと、あっという間に広がりました。大正時代の初めには、刺激が少なく、おもちゃが付いた子供用歯みがきも売られました。