صد و سيزده شيخ را خدمت كرده عاقبت به ملازمت حضرت صادق عليه السّلام رجوع نموده مدت هفت سال سقائى دولت سراى آن حضرت كرد روزى حضرت فرمودند كتاب را از طاقچه بيار ، بايزيد عرض كرد
مصرع :
اى فداى تو هم دل و هم جان طاقچه كجاست
حضرت فرمودند در اين خانه طاقچه نديدها بايزيد گفت من براى ديدن خانه و طاقچه نيامدهام بلكه جهت ديدن طاق ابروى آن قبله اولياء آمدهام فرمود كار تو تمام است بايد بولايت خود رفته خلق را ارشاد نموده مردم را به راه حق دعوت نمائى آنگاه يكى از فرزندان خود را همراه وى كرده به بسطام فرستادند بعد از مدتى قبل از وفات ابا يزيد امامزاده عالىمقدار روى توجه بسراى جاودانى نهاد .
نقلست كه در هنگام نماز از هيبت حضرت بىنياز از استخوان سينه ابا يزيد آواز مىآمد و خلق مىشنيدند وقتى اهل بسطام او را از شهر بيرون مىكردند پرسيد جرم من چيست گفتند تو كافرى فرمود خوشا حال مردم بسطام كه كافرش ابا يزيد باشد
در هنگام وفات مىگفت الهى ما ذكرتك الا من غفلة و ما خدمتك الا من فترة يعنى الهى هرگز ترا ياد نكردم مگر از سر غفلت و هرگز نپرستيدم ترا مگر از سر فترت اين بگفت و از اين جهان پرملال بجهان بهجت مآل انتقال نمود
گويند او را بخواب ديدند پرسيدند كه حال تو چونست گفت از من سؤال كردند كه در دنيا براى عقبى چه كردهاى و بدرگاه بىنياز ما چه آوردهئى گفتم نيستى و محتاجى آوردهام زيرا كسى كه بدرگاه پادشاه التجا نمايد به او نگويند چه آوردهئى بلكه پرسند چه حاجت دارى بدين سخن مرا آمرزيدند .
احوال آن جناب در كتب اخبار بطريق تفصيل مذكور است هركه خواهد بدان رجوع نمايد اين دو رباعى از آن بزرگوار است .
رباعى :
اى عشق تو كشته عارف و عامى را * سوداى تو كم كرده نكونامى را
شوق لب ميگون تو آورده برون * از صومعه بايزيد بسطامى را
رباعى
ما را همه ره بكوى بدنامى داد * از سوختگان نصيب ما خامى داد