Ordu, Türkçede “askerî birlik” anlamına gelen sözcüktür. Nişanyan'a göre Türkçede bilinen en eski sözcüklerden biri ve Türk kültürünün temel kurumlarından biridir. Sözcük eskiden hükümdarın karargâhını ve çadırlı merkezini de anlatırdı; Altın Orda adındaki orda da aynı sözcüktür. İngilizcedeki horde sözcüğü de Türkçe ordu'dan geçmiştir.
Karadeniz'deki Ordu iliyle aynı adı taşıdığı için ilk duyuşta şehir adı akla gelebilir. Benzer isimler arasındaki Tardu ve Baydu da u ile biten eski Türk adlarıdır.