许遵是东魏、北齐时期著名的相士，在《北齐书·方伎》中有他的传记。
许遵学识渊博，“明《易》，善筮，兼晓天文、风角、占相、逆刺”，而且水平极高，“其验若神”。东魏权臣高欢听说许遵后，就将他招揽为门客。许遵不仅能给别人算命，他也能给自己算命，“自言禄命不富贵，不横死”。意思是说，他认为自己将会一生贫穷，但是不会横死，必定可以善终。因此许遵的性情比较怪诞张扬，甚至有恃无恐，“是以任性疏诞，多所犯忤”，他经常冒犯高欢，好在高欢从来不和他计较，“常容惜之”。
后来高欢的儿子高洋登基称帝，建立北齐，许遵依然是御用相士。
许遵和高洋的族叔高岳关系很亲近，高岳推荐许遵在自己的手下担任开府田曹记室。高岳被封为清河王后，兴高采烈地告诉许遵，许遵却取笑他说：“蜜蜂亦作王。”
公元 554年，西魏出兵攻打南梁的江陵，梁元帝向北齐求救，高洋命高岳领兵去救援。高岳出征前向许遵道别，许遵说：“此行必然导致之后的祸患，你应当推辞不去。”高岳听后有些忧虑，就说：“皇帝已经决定了，我不得不去，我打算邀请你同行。”许遵当即直言不讳：“我只与活人相随，不愿与死人同路。”高岳无奈，忧心忡忡地出发了。
结果高岳还没有赶到江陵，江陵就已经被西魏攻破了，高岳只好无功而返。而高岳离开的这段时间，他的仇人趁机向高洋进谗言，陷害中伤他。公元555年，高岳班师回朝后，没过多久就被高洋赐死了。
高岳死后，许遵对高洋心生不满，而且高洋本来就是一位暴君，杀人如麻，“无道日甚”。公元559年的一天，大概是感觉到高洋的寿数将尽，许遵对身边亲近的人说： “我要仔细算一算，皇帝这个狂夫何时会死。”于是经过一番推算后，许遵既高兴，又遗憾地说：“不出冬初，我乃不见。”意思是说，时间不会超过初冬，皇帝必定死去，可惜我看不见了，因为我会死在他之前。
后来果然如许遵所言，“显祖以十月崩，遵果以九月死”，高洋在当年十月驾崩，而许遵死在了高洋之前，于九月去世。