تولايى شاعرى صددرصد مذهبى بود و آنچه مىسرود بر مبناى اعتقاداتش بود و بيشتر به پند و اندرز توجه داشت . وى در اواخر عمر اوقاتش بيشتر به عبادت و تلاوت قرآن مىگذشت و سرانجام در سال 1358 چشم از جهان فروبست و در دارالسلام شهر خود مدفون گرديد .
گلشن دانش
گرچه اندر گلشن دانش بود بسيار گل * گلستان دانش دين را بود بىخار گل
مايهء خير و سعادت درس قرآن است و بس * تا توانى جان من زان گلسِتان بردار گل
در گلستان هر گلى خوش آيدت اندر نظر * بىتأمل گر به بويى سازدت بيمار گل
در معيشت اى دل از اندازه بيرون پا منه * دردسر آرد چو بويى بيش ، از مقدار گل
نام نيكى در جهان بگذار و فرزندى فقيه * تربيت كن اى پدر تا باشدت آثار گل
گل فراوان است در دوران ولى بايد شناخت * تا كه در عمرى نباشد مايهء آثار گل
گل نچينى از گلستان جنان روز جزا * تا « تولّايى » در اين عالم نيارى بار گل
مايهء فضل و شرافت درس قرآن است و بس * گر سعادت جويى از آن گلسِتان بردار گل
عهد مشكن وز كلام لغو مىكن احتراز * تا بود ايمان گل و گفتار گل رفتار گل
غصب فدك
زندگانى در جهان اينقدرها دشوار نيست * خوى زشت ناروا را گر كنيم از خويش فكّ
حادثات دهر را بر خويشتن هموار گير * گر تو را در حكمت خلّاق عالم نيست شكّ
نارواييهاى دوران جمله از افعال ماست * چرخ را تقصير نبود جور نايد از فلك
آنكه عزّ خود همىجويد ز ذُلّ ديگران * نام او را بايد از لوح شرافت كرد حكّ
من نمىدانم چه خواهد گفت در روز جزا * آنكه احكام خدا را ترك گويد يكبهيك
دوستى با دشمنان شاه مظلومان مكن * اى كه گويى هر زمان يا ليتنا كنّا معك
جور بر اولاد احمد نى به زهرا بود و بس * ظلم منع خمس كمتر نيست از غصب فدك
اى برادر سهمى از اموال را با خود ببر * حاصلى نبود براى من يموت از ما تَرَك
گر مطيع امر يزدانى مينديش از حساب * زرِّ خالص هركه را باشد نترسد از محك
غرق بحر مهر حيدر شو « تولّايى » كه حال * مىكند تغيير چون اجسام افتد در نمك