『古今集』に「同じ文字なき歌」として、次の歌があります。

世の憂きめ見えぬ山路へ入らむには思ふ人こそ絆（ほだし）なりけれ　（雑下・九五五。物部良名）
世の中のつらいことが見えない山へ入ろうとするのには、愛する人が束縛であったよ。

中国の梁時代の周興嗣が作った『千字文』は、千の異なる漢字を用いて、四字の句を二百五十並べたものです。そういうものの影響を受けて、日本でもこのような歌を考えたのでしょう。この同じ仮名を用いないということを進めると、いろは歌のようにすべての仮名を一度だけ使ったものを作るということになります。

いろは歌より前に、「たゐにの歌」というものがありました。天禄元年（九七〇）に成立した『口遊（くちずさみ）』という本に出ています。もとは万葉仮名で書いてあるのですが、仮名交じりで濁点を付けて記します。

田居（たゐ）に出（い）で、菜（な）摘（つ）む我（われ）をぞ君（きみ）召（め）すと、漁（あさ）り追（お）ひ行（ゆ）く山城（やましろ）のうち酔（ゑ）へる子等（こら）、藻葉（もは）干（ほ）せよ、得（え）船（ふね）繋（か）けぬ。

『口遊』には、世俗に唱える「あめつちほしそ」よりも勝っていると書いてあります。この「あめつちほしそ」というのは、これ以前にあった「天地（あめつち）の詞」というもので、次のとおりです。

あめ（天）つち（地）ほし（星）そら（空）やま（山）かは（川）みね（峰）たに（谷）くも（雲）きり（霧）むろ（室）こけ（苔）ひと（人）いぬ（犬）うへ（上）すゑ（末）ゆわ（硫黄）さる（猿）おふせよ（生ふせよ）えのえを（榎の枝を）なれゐて（馴れ居て）

（「おふせよ」から後が四字づつになるのは落ち着かないとして、別の読み方も提案されています。）

ここではア行のエ（ｅ）とヤ行のエ（ｙｅ）とが別になっています。いろは歌などより古い時代の音韻を反映しているからです。『口遊』で「たゐに」のほうが勝っているというのは、その時にはエの区別がなくなっていたからでしょう。

これが「あめつち」で始まるのは、『千字文』が「天地玄黄」で始まるのに倣って作ったものだからと考えられています。

いろは歌は、仮名文字がすべてあるのですから、手習いの歌として用いられ、またものを分類する記号としても用いられました。辞書で言葉を配列するのにも、平安末期の『色葉字類抄』をはじめとして、広く用いられました。大槻文彦博士が、明治二十四年に自著の国語辞書『言海』を福沢諭吉に届けた時のことを、「言葉の順が五十音順であるのを見て顔を顰め、寄席の下足札が五十音でいけますか、と云はれた」と、回想しています（『東京日々新聞』明治四十二年十月十三日「学界之偉人・大槻文彦氏（六））。新時代の旗手と見られた福沢諭吉でさえ、辞書はいろは順であるべきだと思っていたのです。