De eerste vermelding verschijnt pas in de Servaaslegende die rond het jaar 1080 op schrift wordt gesteld door de monnik Jocundus, die werkte in opdracht van het kapittel van Sint Servaas. Wanneer Servatius terugkomt van zijn pelgrimstocht naar Rome, blijkt hij in bezit te zijn van een sleutel, en vertelt hij aan de inwoners van Tongeren dat hij deze van de Apostel Petrus heeft gekregen: 'Bij deze woorden strekte hij zijn hand uit en toonde hij een zilveren sleutel, een kostbaar kunstwerk'. De sleutel kan dus pas in de loop van de 11e eeuw in bezit van het Sint-Servaaskapittel zijn gekomen. De eerdere schrijvers zouden het bezit van een dergelijk kunstwerk zeker vermeld hebben.
En pas in de 12e-eeuwse Servaaslegende, de Gesta Sancti Servatii, wordt het visioen verhaald waarbij Servaas de sleutel kreeg uit handen van de H. Petrus persoonlijk: 'als een wonderbaar teken van de macht de hemel te sluiten en te openen overhandigde hem, toe hij vertrok, de Sleuteldrager van de Hemel een zilveren sleutel van hemelse makelij, opdat hij niet de mindere zou zijn van hem, aan wie God vroeger op de berg de stenen tafelen had gegeven'. Daarmee is Servatius dank zij de sleutel de evenknie van Mozes, die op de berg de stenen tafelen van de Tien Geboden had ontvangen, maar hij is nog niet de evenknie van Petrus.
Dat gaat Hendrik van Veldeke, in zijn Servaaslegende, wél doen: 'Daarop gaf Sint Petrus aan Sint Servaas een buitengewoon kostbare, zilveren sleutel: nooit zag iemand zo'n hemels vakwerk, en evenmin is iemand op aarde in staat er zo een te vervaardigen. Hij kreeg die sleutel als een tastbaar bewijs. Petrus gaf hem uit liefde voor Servaas en als beloning voor diens inspanningen. Daarmee begiftigde hij Servaas met dezelfde macht over levenden en doden als Christus ook aan hem geschonken had. De sleutel betekende voorwaar dat Servaas zondaars en rechtvaardigen, heren en knechten, mannen en vrouwen, levenden en doden kon binden en ontbinden. De vermaarde Servaas ontving daarmee van Gods Zoon de macht om degenen die hulp en genade bij hem zochten, hun zonden te vergeven'.