据广州旧志记载，周惠王令楚熊子。恽统治岭南，南海臣服于楚，作楚庭以朝，所以广州又称楚庭。关于五羊的由来及其传统有三个版本。
版本之一：周夷上八年（公元前887年），广州曾一度出现连年灾荒田野荒芜，农业失收，民不聊生。一天，南海的天空忽然传来一阵悠扬的音乐，出现了五朵彩色祥云，上有五位仙人，身穿五色彩衣，分别骑着不同毛色的山羊，羊口衔着一茎六出的优良稻穗，降临楚庭。仙人把稻穗给了广州人，并祝愿此处永无饥荒。祝罢仙人腾空飞逝，五只仙羊化为石头留在广州山坡。从此，广州便成了岭南最富庶的地方。这就是广州有“五羊城”、“羊城”、“穗城”名称的由来。
版本二：五仙降临的情形差不多，但传说中的时间是南海人高固为楚威王相的时候，即战国周显王时期。
版本三：晋朝时，吴修为广州刺史，还未到任，有五仙人骑五色羊，背着五谷来到广州州治的厅堂上。吴修于是在厅堂上绘五仙人像以示祥瑞纪念，并且称广州为“五仙城”。现在的广州惠福西路五仙观据说就是五仙人降临之地，广州人为了纪念五仙人专门修建了五仙观，在大殿内还有五仙和五羊的塑像。这个版本的唯一漏洞，就是吴修还未到任，怎么看得到已经来到广州州治厅堂上的五仙样貌，并且在厅堂上绘出来？
而据《广东通志》记载，五仙观的观址历代曾多次迁建。宋代时在十贤坊（今北京路省财厅一带），南宋后期至元代在古西湖畔（今教育路一带）。明洪武十年（公元1377年），布政使赵嗣坚持将原五仙观改作广丰库，于今惠福路坡山现址再建五仙观。在今五仙观的东侧，还有一块巨大的江砂岩似脚印状的凹穴，称为“仙人拇迹”（即仙人脚印）。
听起来这也有点太不严肃了，仙人们的降临之地一忽儿被搬到这，一忽儿被搬到那，搬来搬去还搬出了个脚印来了，未免有些儿戏。不过，反正是有个他们落脚的地方，以供大家伙儿纪念也就是了。有趣的还是那个脚印，有这么天真可喜的一说，大家也就天真可喜地认可了。屈大钧的《广东新语》里说：“‘穗石洞有一巨石，广可四五丈，上有拇迹，迹中碧水泓然，虽旱不竭，似有泉眼在其下，亦一异也。”明清两代，这个“仙人拇迹”还先后以“穗石洞天”和“五仙霞洞” 被列入羊城八景呢。广州人在这一档子事上的“求其”（随随便便兼漫不经心）和天真，令人若尔。
至于最后落脚到惠福路的五仙观，在解放前就已经荒废了，建国后才重加修葺，可是五羊山人像和五头石羊未能在观内复原。倒是在越秀公园用一百三十多块花岗岩石雕了一座巨大的五羊雕像，据说，光是主羊头部的那块石料就有四千多斤重。
五仙的坐骑为什么是羊，而不是其他狮子老虎大象之类，有人做过研究，一直研究到原始社会时期，并且说可能是由广州地区原始民族的图腾崇拜而来。那时我国南方曾经存在过五支姜姓的部族，都以羊作为自己氏族的图腾，用黄、红、黑、白、紫五种颜色相区别，他们崇拜羊，认为羊是吉祥的象征，给他们带来了幸福。其中，又以在广州地区从事原始农业的“黄羊”一支最为兴盛，传说他们最拿手的就是种水稻，还是高产的，由此过上了较好的生活。
五羊传说至少已流行了1500年。关于五羊传说，最早的文献记载见于晋代。到了唐宋，五羊传说更为流行。唐代著名诗人高适诗句、《太平广记》卷三十四引唐裴铏《传奇》“崔炜”篇，都提及羊城，即广州。至北宋乐史《太平寰宇记》引《续南越志》云：“旧说有五仙人，骑五色羊，执六穗秬而至，至今呼五羊城是也。”明末清初屈大均《广东新语》卷五《石语》也有关“五羊石”条。
五羊传说具有重大的价值，是千余年来民众集体创作的结晶，具有广泛的群众性。同时，它具有开放性的基因，其派生的故事反映了广州城作为口岸城市，对外交往频繁的特点。五羊传说是岭南地区产生最早、流传最广、影响最深的口头文学，具有珍贵的文学价值。同时为书画、雕塑、舞蹈等艺术创作提供了珍贵的素材。而作为一种口耳相传的故事传说，它也蕴涵着哲学、宗教、艺术、语言、风俗等观念，对广州地区文化发生了深远的影响，极具民俗学研究价值。
今天，五羊作为一种独特的城市形象，深深地印刻在民众的心里，成为广州一张有代表性的“名片”和城市对外交流的“形象大使”。
近20年来，由于受现代化和城市化的影响，人们价值取向发生很大改变，欣赏、传承古老传说的热情正在丧失，使五羊传说生存环境发生变化。老一代的传说讲述者逐渐减少，年轻一代不愿承传，五羊传说面临着断代的危险。