Senāk tur, kur tagad Vecgulbenes baznīca, atradusies senlatviešu pils. Kad vācieši ienākuši, tie pili nodedzinājuši, bet vieta viņiem labi iepatikusies un tie tur uzcēluši sev pili. Zviedru laikā pili sašāvuši. Pili nojaukuši krievi. Vēlāk uz veciem pils pagrabiam uzcelta baznīca. Pēc katriem divdesmit pieciem gadiem no baznīcas palejā atrodošās alas izlienot mazs vīriņš. Jau trīs reizes vīriņš esot izlīdis, bet kad līdīšot ceturto reizi, tad baznīca nogrimšot.