Il existe de nombreuses légendes et mythes sur les chevaux arabes. Une légende dit que le prophète Muhammad a sélectionné ses cinq meilleures juments (chevaux femelles), appelées Al Khamsa ("les cinq") pour être la base de la race arabe. Une autre légende dit que la reine de Saba a donné une jument arabe au roi Salomon, et c'est ainsi que la race a commencé. Une autre histoire encore dit qu'Allah a fait le cheval arabe du vent du sud, en disant : "Je te crée, ô Arabe... je te donne le vol sans ailes."
Dans l'histoire réelle, les Arabes sont l'une des plus anciennes races de chevaux développées par l'homme dans le monde. Des images de chevaux "proto-arabes" qui ressemblaient beaucoup aux chevaux arabes modernes ont été peintes sur des rochers dans la péninsule arabique dès 2 500 ans avant J.-C. Les ancêtres des Bédouins ont probablement apprivoisé les chevaux peu de temps après avoir apprivoisé le chameau. Un squelette de cheval a été déterré dans la péninsule du Sinaï, daté de 1700 avant J.-C., et est considéré comme la plus ancienne preuve de l'existence du cheval dans l'Égypte ancienne. Il a probablement été apporté par les envahisseurs Hyksos. Ce cheval avait une tête en forme de coin, un grand œil et un petit museau, tout comme le cheval arabe d'aujourd'hui.
Dans le désert, les humains étaient la seule source de nourriture et d'eau pour le cheval arabe. Là où il n'y avait pas de pâturage, les Bédouins nourrissaient leurs chevaux avec des dattes, fruit du palmier-dattier, et du lait de chamelle. Les Arabes devaient vivre avec très peu de nourriture et survivre dans un climat sec, très chaud le jour mais très froid la nuit. Les chevaux faibles ne vivaient pas, et les chevaux qui survivaient au désert devaient aussi survivre en étant montés pour la guerre. C'est pourquoi le cheval arabe est devenu très résistant et capable de vivre dans un monde rude.