Капліцу Булгарына нярэдка называюць «Вежай забойцы», так як з ёй звязана адна гісторыя. Аднойчы памешчык Скандэрбег Булгарын пасварыўся са сваім суседам - памешчыкам Вузлоўскiм і застрэліў яго. У адпаведнасці з законамі таго часу, ён павінен быў заплаціць «віру» («пагалоўе»). Булгарын па рашэнні суда аддаў сваякам забітага частку вёсак і сялянскіх душ. Але пакуль вяліся перамовы аб велічыні «пагалоўя», сваякі загінулага Вузлоўскага пагражалі Булгарыну, спрабуючы напалохаць памешчыка і павялічыць памер кампенсацыі. Тады Скандэрбег пачаў будаваць сабе невялікую вежу, дзе згодна з мясцовым заканадаўствам таго часу, знаходзiлiся мімавольныя забойцы.
Капліца была пабудавана на тэрыторыі Фарнага касцёла, недалёка ад фамільнай пахавальні Радзівілаў - найбуйнейшага магнацкага роду на тэрыторыі Вялікага княства Літоўскага. Па просьбе Булгарына ў касцёле штогод служылі малебен па забітым пане Вузлоўскiм. За гэта ён заплаціў храму на 350 гадоў наперад.