战国时期李冰亦是治理水患的英雄，传说李冰开凿都江堰时，曾化为披白练的牛一与江神斗法。清人卢文绍《群书拾补》辑《风俗通逸文》云：“（李冰）拔剑，忽然不见。良久，有两苍牛一斗于岸旁。有顷，冰还流汗，谓官属曰：‘吾斗大极，当相助也。若欲知我，南向腰中正白者，我缓也。’主簿乃刺杀北面者，江神遂死。”又《太平广记》卷二九一引《成都记》云：“李冰为蜀郡守，有蛟岁暴，漂垫相望。冰乃人水戮蛟，已为牛形，江神龙跃，冰不胜。及出，选卒之勇者数百，持强弓大箭，约日：‘吾者前为牛，今江神必亦为牛矣。我以大白练自束以辨，汝当杀其无记者。’遂吼呼而人。须臾，风雷大起，天地一色。稍定，有二牛斗于上。公练甚长白，武士乃齐射其神。遂毙。从此，蜀人不复为水所病。”李冰化作牛战胜了江神，故后人遂以铜牛、铁牛镇水患，铁牛镇水也成了千百年来民间的信仰。
从文献记载和考古发掘来看，唐代就已流行用铁牛镇水。唐人刘肃喊大唐新语· 论异》云：“平地之下一丈二尺为土界，又一丈二尺为水界，各有龙守之。土龙六年而一暴，水龙十二年而一暴。一铸铁为牛永之状像，可以御二龙。”唐代开元十二年，唐玄宗令兵部张说重建蒲津桥，在黄河两岸各铸铁牛四只，铁人四尊，铁山四座，连成一体，建成蒲津浮桥。金代，蒲津桥被毁，但铁牛、铁人仍在。明清两代，由于地震、洪水的破坏，铁牛、铁人遂湮埋于泥沙深处。然而，在人们心目中及民间传说里，铁牛却一刻也未失去它镇水的神奇魅力。1989 年，经过一年的发掘，黄河东岸四尊铁牛、铁人终于展现在人们面前。
四尊铁牛均作伏卧状，铸在长方形铁板上，铁牛高1 . 8 米，长3 . 3 米，宽约2 米，每尊重55 吨至75 吨，形态各异，体魄雄壮，强健有力，气势雄浑。设计者以晋南黄牛为蓝本，其表情夸张，牛颈短厚，怒目圆睁，身驱宽阔，体形匀称，尾贴后股，向外甩动，形象生动。每尊铁牛尾后有一粗大横轴，用以系浮桥铁索，铁牛还有一大作用就是镇水。
在中华大地卜，镇水铁牛各地都可见。江苏洪泽湖畔也有一对跪卧昂首，双目圆睁的铁牛，腹上铸有点题铭文：
惟金克木蛟龙藏，惟土制水龟蛇降。铸犀作镇莫淮扬，永除香垫报吾皇。
此铁牛为清代康熙辛巳年午日铸造。从铭文中可看出古代铁牛镇水的缘由。铁牛系金属铸成，具备了“金”的属性，在古人五行相生相克的理念中，有金克木之说，而木配东方，东方之兽乃为龙，所以金可镇克蛟龙，迫其潜藏。蛟龙本为水兽，兴风作浪，带来水患，带有金的属性之铁牛使它藏匿，自然避除了水患。牛为土属，古人以五行同方位相配，东木、南火、西金、北水、中土，牛则为中央之牲，故属土，土能埋水，因此牛能镇水，成了镇水神灵。
北京颐和园昆明湖东堤岸边有一尊铜牛，铸造精美，以神态生动逼真似真牛着称，清代乾隆二十年铸造，称为金牛，专为“镇压水患”而建立的，牛背上铸有八十字的篆体铭文《金牛铭》，大意是皇帝借用大禹治水、铁牛神力的典故，铸造铜牛镇压水患。是见官方铸造铜牛是作为昆明湖畔镇水的神物。古人用铁牛镇水，仅仅是一种俗信的寄托，而不会有实际的结果，但它作为一种信仰的象征，表达了人们治理水患的愿望。
