明治十年ごろ、杉山家は箱崎から旧知行地に近い筑紫郡の山家村へ移った。山家の地は、江戸時代に長崎街道の宿駅のひとつに定められ、爾来長崎奉行をはじめ西国大小名、あるいは異国人なども往来し、交通の要衝として栄えていた。
 杉山一家が山家に移った由来は定かではないが、旧知行地の縁のほかに、山家宿下代であった高島圓という人物と三郎平が昵懇の間柄であったこともその一因と考えられる。下代とは武士の身分を持つ代官の下役として、宿駅の指図監督に従事した下級役人である。
 杉山三郎平の一家は、山家宿の谷町というところで宿場医をつとめた加島家に寄寓して、下駄さしや牛追いなどで生計をたてたという。山家の郷土史家近藤思川は、その当時の杉山家の様子を「農山村山家の木材利用、下駄さし、鍬の柄すげ、はては農家の米売買博多まで朝の一番鶏から米車を引き、生活の糧に営々汲々これ務めた」と記している。
 後年立憲政友会の領袖として政界に重きをなした野田卯太郎の伝記『野田大塊傳』に、杉山茂丸が「父灌園を助けて、われは福岡の町に米俵運送の賃金を取る身で、果ては道伴れの顔馴染と為ったのも、その頃のことである」と記されたのは、おそらく当時の杉山の姿であろう。
 山家在住中のあるとき、三郎平がチフスに罹患して生死の境をさまようという事件があった。この際に熱心に看病にあたったのが前出の高島圓やその養女のかた女であった。三郎平は快復後、かた女を長男茂丸の嫁に望んだという。この縁談はまとまらなかったのだが、縁というものは面白いもので、かた女はその後近藤家に嫁ぎ、そこでもうけた男児義夫が、長じて郷土史家近藤思川となって往時の杉山家の様子を書き残したのである。
 明治十一年ごろ、杉山家は山家の西に隣接する朝倉郡夜須町二タ〈ふた〉（現朝倉郡筑前町二〈ふた〉）に移住した。二タはかつて龍造寺氏の領地であったというから、杉山家には由縁の地である。この二タ村の地で、杉山茂丸は近隣の筑紫小学校の代用教員になったという。代用教員になった時期は分明ではないが、傲岸不遜を地でゆく杉山ゆえ、師範学校出の教員とのあいだには軋轢もあったという。
 このころ杉山の父三郎平は、幕藩時代そのままに丁髷を頭に乗せ、村人からは「杉山の殿」と呼ばれ、村人に対しては貴様呼ばわりであったという。杉山の次弟五百枝は明治六年ごろに材木商の西原家へ養子に出されていたが、このころ生家の家計の助けにとでも考えたか、みずから商う材木を杉山家で売りさばくべく取りはからったが、三郎平が店番をすると客の村人に向かって「其方共は、土百姓の分際で、品物を選り買いなど致し、或は値段を値切るなどは、言語道断ぢゃ」などと言いつのる始末であったと杉山の主著『百魔』には記されている。
 三郎平がこの二タ村で開いた私塾が敬止義塾である。杉山の『百魔』には「庵主の父は、病後羸弱の余暇を以て、隣村の子供等を集め、牛小屋の側に一室を設け、夜学の家塾を拵え、手近かの四書五経などの講義をしていた」と記されているが、三郎平にとっては東京で福沢諭吉が開いた慶應義塾にも負けじとの意気込みであり、「人は鍬を作ったり、盆栽を作ったりするが、俺は人間を作るのぢゃ」と口癖のように言っていたという。塾舎は四畳と六畳の二間限りの茅葺の陋屋であったが、盛時には塾生二十名ばかりを数えた。
 ところで近藤思川によれば、明治十八年から二十年の三年間が敬止義塾の存続期間であるとされるが、始期はさらに一二年程度遡ると考えることが妥当である。
 杉山は後年、佐々友房の遺稿を編んだ『克堂佐々先生遺稿』に「借金始末」と題する回想を寄稿し、その中で「福岡県學務部長をしてをつた熊本縣人八重野範三郎氏とは、自分等父子が無鑑札で子弟の教育をしてゐたとき衝突し爾来却つて親交を結んだ」と記している。杉山は明治十七年九月頃、熊本の佐々友房を訪ねて金策をし、そのまま上京して辛酸を嘗めたのち明治十八年秋ごろ、八重野範三郎の斡旋により東京滞在中であった玄洋社の頭山満に会う。とすれば「無鑑札で子弟の教育をしてゐたとき」とは、杉山が佐々を訪ねる明治十七年九月より以前でなければならず、敬止義塾が開かれたのは、近藤思川のいう時期より以前に遡るものと考えられる。
 そもそも杉山と頭山との出会いを斡旋した八重野範三郎の存在は、『百魔』の中で「庵主の爲めには彼の水滸傳の柴大官人とも云ふべき熊本の八重野範三郎と云ふ長者が、深く庵主の境遇を憫み、佐々克堂氏等と共に庵主を同郷の偉人頭山満なる人に紹介せんと勧めた」と記されているだけで、八重野と杉山との、どのような関係がそのきっかけとなったのかは謎であった。しかし、杉山が上京以前に八重野の知遇を得ていたのであれば、その謎にひとつの解が見いだせると言えよう。
 因みに『改正官員録』の福岡県の項に八重野範三郎の名が見られるのは明治十六年十二月以後であるから、明治十七年九月以前に杉山と八重野とが「衝突し爾来却つて親交を結」ぶことは可能であった。