汉人刘向《列仙传》载，羊图腾氏族羌族后裔葛由，是周成王时人，喜欢用树木雕刻成木羊图腾来卖。一天，他骑着一只羊进人西蜀，许多人都追随他而去，一直追到绥山。绥山在峨嵋山的西南面，山高无极，跟随葛由上山的人没有一个返回家中，全都得道成仙。在这里羊为仙人乘骑。清人屈大钧《广东新语》载，周夷王时，南海有五位仙人各穿一种颜色衣服，所骑的羊与仙人衣服同色，羊与仙人融为一体。仙人骑羊来到广州，各自拿出一束谷穗留给州人，留言祝云：“愿此阛阓，永无饥荒”。说罢腾空而出，羊则化为石留下，成为仙人诺言的实践者。仙人骑羊给人间送来五谷，救世济民，故事本身就下十分动人。后世人们便建五仙观，刻五羊石，以为纪念。《广东新语》云：“今坡山有五仙观，祀五仙人，少者居中，持黍稻；老者居左右，持黍稷，皆古衣冠。像下有石羊五，有蹲者，立者，有角形微弯，势若抵触者，大小相交，毛质斑驳。观者一一摩挲，手迹莹然。”这五只石羊被视为神羊，人们都喜欢抚摸羊身，以祈吉祥、幸福，所以石羊全身光洁晶莹。广州市因此有了五羊城、羊城之名，今日越秀山公园五羊山上立了一座花岗石五羊雕塑，一只老神羊口衔谷穗，四只神羊围绕其身旁。人们还喜在梁上画五仙人骑五色羊或五羊衔谷的图画以为瑞应，因为羊是瑞祥之物，会给人们带来好运。
与仙人骑羊的吉祥之意相应，刘向《列仙传》还记载了人化白色仙羊而去的传说。修羊公是魏国人，他的名字就与羊密切相关。居住在华山上石室中，石室内有悬在岩边的石榻，修羊公就睡在石榻上，天长日久，石榻都被修羊公磨穿磨陷，修羊公不怎么吃食物；只是偶尔吃一些黄精，据说长期服用黄精能够长生升仙。后来，修羊公用道术去游说汉景帝，受到皇帝优渥的礼遇，让他居住在宫室中多年。然而汉景帝始终没有从修羊公那儿学到道法，便派使臣来问: “修羊公，你什么时候打开你的秘藏？“使臣话还没有问完，修羊公已经在床上化作了一只白色石羊，在石羊的肩胁处，还题了一句话：“修羊公，谢天子。”汉景帝认为这是瑞祥的征兆，将这石羊安置在灵台上供奉。后来，这只石羊离开了灵台，不知所终。
羊既为仙物，牧羊儿也能成仙。晋人葛洪《神仙传》载，丹溪人黄初平，年十五，家人让他放羊。有个道士见他良谨，带他到了金华山石室中。黄初平一去四十年，不复想家。其兄黄初起四处寻找弟弟，历年不得。后在市中遇见一道士，便请道士占卜，说：“吾有弟名初平，因令牧羊，失之四十余年，莫知死生所在，愿道君为占之”。道士说：“金华山中有一牧羊儿，姓黄字初平，是卿弟非疑”。黄初起立即随道士去寻弟，果然见到弟弟。寒暄之后，问弟弟羊在哪里？黄初平说：“在山的东边。”兄弟两人前去看羊，只见到满坡白石，黄初起说：“没有看见羊群。”黄初平则说：“羊都在山坡上，只是兄长没看见。”说罢对白石叱道：“羊起。”于是白石皆变为羊数万只。黄初起知道弟弟已经成仙，便弃家从弟学道，后亦成仙。这就是黄初平牧羊成仙的故事。李白《古风》之十七有句云“金华牧羊儿，乃是紫烟客”，咏的即是黄初平牧羊成仙。
由此观之，羊与仙人有着一层极为神秘的关系，仙人以羊为坐骑，可自由来往人间和仙界，仙人又与羊融为一体，可化羊而去，而凡人牧羊亦可成仙，羊真是神秘的灵物。
