Помічаючи його різноманітні смаки та особливості, не зайвим буде пропустити всі згадки про його любов до музики, яка була значною. Хоча він ніколи не був серйозним музикантом, він любив хорошу музику і ніколи не втомлювався слухати свої улюблені ораторії, опери та пісні. До досить пізнього періоду свого життя він був постійним відвідувачем певних музичних фестивалів, особливо тих, що проходили в Бірмінгемі та Лідсі, і він завжди був присутнім принаймні на двох днях Фестивалю Генделя в Кришталевому палаці, час від часу створюючи ту саму групу близьких друзів. У дуже ранні дні він грав на корнеті, коли він мав дивну привабливість як сольний інструмент для аматора у вітальні. У нього був високий і гарний теноровий голос, і він любив партію, будучи одним із небагатьох чоловіків, які збиралися в кімнатах Генрі-Леслі на Кондуїт-стріт, щоб співати пісні під керівництвом чоловіка, який з цього маленького початку згодом розвинувся у знаменитому Хорі Генрі Леслі, який так багато зробив для хорової музики.
У 1892 році Фредерік Стефенсон був призначений полковником гвардії Колдстрім, і вважав, що ця посада приносить йому велику честь. У своїй промові перед полком з нагоди інспекції в казармах Челсі в травні 1896 року він сказав: «Що стосується мого власного становища тут серед вас, я можу щиро сказати, що Її Величність віддала мені найвищу честь, яку може досягти старий солдат, і яка особливо дорога старому гвардійцю».
У 1898 році він став констеблем Лондонського Тауера. Це він дуже цінував. Він детально ознайомився з історією та традиціями цього місця та був у постійному зв’язку з усім, що відбувалося в його стінах, продовжуючи свої особисті візити ще довго після того, як він відмовився кудись їхати. Його знали й любили всі, високий і низький, і коли з нагоди його смерті з’ясувалося, що він сам висловив бажання не віддавати йому військових почестей, не влаштовувати показів і шуму, охоронці Тауера відчули велике розчарування через те, що вони не змогли взяти жодної участі в церемонії похорону.
Зрештою виявилося неможливим відмовитися від усіх дисплеїв; сам король наказав усім військово-морським та військовим офіцерам носити повну форму під час цієї нагоди, тож абсолютно проста та приватна служба, яку вибирав сам сер Фредерік, була скасована, а охоронці з Тауера та солдати з різних полків були присутні, щоб віддати честь людині, яку вони любили.
Це було чудове видовище. Церква була заповнена багряними плащами, а з обох боків труни, з Юніон Джеком на полотні, стояли три охоронці
[фрагмент нечитабельний у скані першодруку]