Особенно Гааз прославился своим радением о заключенных в тюрьмах и ссыльных в каторгу. На оградке могилы Гааза укреплены настоящие кандалы, в каких гнали когда-то ссыльных в Сибирь. Эти кандалы должны напоминать об особенной заботе «святого доктора», как его называл народ, об узниках. Кстати, о кандалах. Гааз добился, чтобы, вместо неподъемных двадцатифунтовых кандалов, в которых прежде этапировали ссыльных, для них была разработана более легкая модель, прозванная «гаазовской» (именно эти «вазовские» кандалы теперь и украшают его могилу), и еще, чтобы кольца на концах цепей, в которые заковывались руки и ноги арестанта, были обшиты кожей.Любопытный эпизод, характеризующий доктора Гааза, приводит В. В. Вересаев. Однажды на заседании Московского тюремного комитета, членом которого был и московский владыка митрополит Филарет, Гааз так ревностно отстаивал интересы заключенных, что даже архиерей не выдержал и возразил: «Да что вы, Федор Петрович, ходатайствуете об этих негодяях! Если человек попал в темницу, то проку в нем быть не может». На что Гааз ответил: «Ваше высокопреосвященство. Вы изволили забыть о Христе: он тоже был в темнице». Филарет, сам, к слову сказать, много усердствующий для нужд простого народа, и причисленный впоследствии к лику святых, смутился и проговорил: «Не я забыл о Христе, но Христос забыл меня в эту минуту. Простите, Христа ради».