黄蓉对丈夫道：“咱们定个规矩，你不能教过儿，我也不能教他们三人。这四个孩子之间，更加不得互相传授，否则错乱了功夫，有损无益。”郭靖道：“这个自然。”黄蓉道：“过儿，你跟我来。”杨过厌憎郭芙与武氏兄弟，听黄蓉这么说，得以不与他们同场学艺，正合心意，当下跟着她走向内堂。
黄蓉领着他进了书房，从书架上拿下一本书来，道：“你师父有七位师父，人称江南七怪，大师父就是柯公公，二师父叫作妙手书生朱聪，现下我先教你朱二师祖的功夫。”说着摊开书本，朗声读道：“子曰：学而时习之，不亦说乎？有朋自远方来，不亦乐乎？”原来那是一部《论语》。杨过心中奇怪，不敢多问，只得跟着她诵读识字。
一连数日，黄蓉只教他读书，绝口不提武功。这日读罢了书，杨过独自到山上闲走，想起欧阳锋现下不知身在何处，思念甚殷，不禁双手撑地，倒转身子，学着他样子旋转起来。转了一阵，依照欧阳锋所授口诀逆行经脉，只觉愈转愈顺遂，翻身跃起，咕的一声叫喊，双掌拍出，登觉遍体舒泰，快美无比，立时出了身大汗。他可不知只这一番练功，内力已有进展。欧阳锋的武功别创一格，原是厉害之极的上乘功夫，杨过悟性甚高，虽那日匆匆之际所学甚少，但如此练去，内力也有进益。
自此之后，他每日跟黄蓉诵读经书，早晨晚间有空，自行到僻静山边练功。他倒不是立志习武，想从此练成一身惊人武艺，只每练一次，全身便说不出的舒适，到后来已不练不快。
他暗自修练，郭靖与黄蓉毫不知晓。黄蓉教他读书，不到三个月，已将一部《论语》教完。黄蓉教书早感烦厌，但想：“此人聪明才智似不在我下，如他为人和他爹爹一般，学了武功，将来为祸不小，不如只让他学文，习了圣贤之说，于己于人都好。”当下耐着性子教读，《论语》教完，跟着再教《孟子》。杨过记诵极速，对书中经义却往往不以为然，不住提出疑难。黄蓉常自觉得：“这孩子读圣贤书，有些想法跟我爹爹十分相似，如我爹爹教他，二人谈起来倒必投机。”
几个月过去，黄蓉始终不提武功，杨过也就不问。自那日与郭芙、武氏兄弟打架之后，再不跟他们三人在一起玩耍，独个儿越来越孤僻，心知郭靖虽收他为徒，武功是决计不肯教的了。自己本就不是武氏兄弟对手，待郭靖教得他们一年半载，再有争斗，非死在他们手里不可，打定主意，一有机会，便偷上一艘船去，设法逃离桃花岛。
这日下午，杨过跟黄蓉读了几段《孟子》，辞出书房，在海边闲步，望着大海中白浪滔滔，心想不知何日方能脱此困境，眼见海面上白鸥来去，好生欣羡它们的来去自在。正自神往，忽听桃树林外传来呼呼风响。他好奇心起，悄悄绕到树后张望，原来郭靖正在林中空地上教武氏兄弟拳脚，教的是一招擒拿手“托梁换柱”。郭靖口中指点，手脚比划，命武氏兄弟跟着照学。杨过只看了一遍，早就领会到这一招的精义所在，但武氏兄弟学来学去始终不得要领。郭靖本性鲁钝，深知其中甘苦，毫不厌烦，只反覆教导。
杨过暗暗叹气，心道：“郭伯伯若肯教我，我岂能如他们这般蠢笨。”闷闷不乐，自回房中睡了。晚饭后读了几遍书，但感百无聊赖，又到海滩旁边，学着郭靖所授的拳脚，使将开来，一招反覆使得几遍，便感腻烦，忽想：“我如去偷学武功，保管比武氏兄弟强得多，就不怕他们来打死我了。”一喜之后，傲心登生：“郭伯伯既不肯教，我又何必偷学他的？哼，这时他就是来求我去学，我也不学的了。最多给人打死了，好希罕么？”想到此处，傲气登长，又感凄苦，倚岩静坐，竟在浪涛声中迷迷糊糊的睡着了。
次日清晨，杨过不去吃早饭，也不去书房读书，在海中捞了几只大蚝，生火烧烤来吃，心想：“不吃你郭家的饭，也饿不死我。”瞧着岸边的大船和小艇，寻思：“那大船我开不动，小艇却又划不远，怎生逃走才好？”烦恼了半日，无计可施，便在一块巨岩之后倒转了身子，练起了欧阳锋所授的内功来。
正练到血行加速、全身舒畅之际，突然间身后有人大声呼喝，杨过一惊之下，登时摔倒，手足麻痹，再也爬不起来，原来是郭芙与武氏兄弟三人适于此时到来。这巨岩之后本来十分僻静，向无人至，但桃花岛上道路树木的布置皆按五行生克之变，郭芙与武氏兄弟不敢到处乱走，来来去去只在岛上道路熟识处玩耍，碰巧见到了他练功情状。幸好杨过此时功力甚浅，否则给三人齐声吆喝，惊得经脉错乱，非当场瘫痪不可。
郭芙拍手笑道：“你在这里捣什么鬼？”杨过扶着岩石，慢慢支撑着站起，向她白了一眼，转身走开。武修文叫道：“喂，郭师妹问你哪，怎得你这般无礼，也不理睬？”杨过冷冷的道：“你管得着么？”武敦儒大怒，说道：“咱们自管玩去，别去招惹疯狗。”杨过道：“是啊，疯狗见人就咬，人家好端端的在这里，三条疯狗却过来乱吠乱叫。”武敦儒怒道：“你说三条疯狗？你骂人？”杨过笑道：“我只骂狗，没骂人。”
武敦儒怒不可遏，扑上去拔拳便打，杨过一闪避开。武修文想起师父曾有告诫，师兄弟不可打架，这事闹了起来，只怕为师父责备，忙拉住兄长手臂，笑吟吟的对杨过道：“杨大哥，你跟师娘学武艺，我们三个跟师父学。这几个月下来，也不知是谁长进得快了。咱们来过过招，比划比划，你敢不敢？”
杨过心下气苦，本想说：“我没你们的运气，师娘可没教过我武功。”但一听到他说“你敢不敢”四字，语气中充满了轻蔑之意，那句泄气的话登时忍住了不说，只哼了一声，冷冷的斜睨着他。武修文道：“咱们师兄弟比试武功，不论谁输谁赢，都不可去跟师父、师娘说，就是打破了头，也说是自己摔的。谁打输了向大人投诉，谁就是狗杂种、王八蛋。杨大哥，你敢不敢？”
他这“你敢不敢”四字第二次刚出口，眼前一黑，左眼上已重重着了杨过一拳，武修文一个踉跄，险些摔倒。武敦儒怒道：“你这般打冷拳，好不要脸。”施展郭靖所教的拳法，向杨过腰间打去。杨过不识闪避，登时中拳，眼见武敦儒又飞脚踢来，脑海中灵光一闪，想起昨天郭靖传授武氏兄弟的招数，当即右腿微蹲，左手在武敦儒踢来的右脚小腿上一托。这正是“闹市侠隐”全金发所擅擒拿手法中的一招“托梁换柱”，虽非极精深的武功，临敌之时却也颇切实用。昨日郭靖反覆叫两兄弟试习，武氏兄弟本已学会，但当真使将出来，却远不及杨过偷看片刻的机巧灵活。武敦儒给他这么使力一托，登时远远摔了出去。
武修文眼上中拳，本已大怒，见兄长又遭摔跌，当即扑将上来，左拳虚晃，杨过向左避让，却不知这是拳术中甚为浅近的招数，先虚后实，武修文跟着右拳实击，砰的一声，杨过右边颧骨上重重中拳。武敦儒爬起身来，上前夹击，他两兄弟武功本有根柢，杨过先前就已抵敌不过，再加上郭靖这几个月来的教导，他如何再是敌手？厮打片刻，头脸腰背已连中七八下拳脚。杨过发了狠：“就是给你们打死了，我也不逃。”发拳直上直下的乱舞乱打，全然不成章法。
武修文见他咬牙切齿的拚命，心下倒也怯了，反正已大占上风，不愿再斗，叫道：“你已经输啦，我们饶了你，不用再打了。”杨过叫道：“谁要你饶？”冲上去劈面猛击。武修文伸左臂格开，右手抓住他胸口衣襟向前急拉，便在此时，武敦儒双拳同时向杨过后腰直击下去。杨过站立不稳，向前摔倒。武敦儒双手按住他头，问道：“你服了没有？”杨过怒道：“谁服你这疯狗？”武敦儒大怒，将他脸孔向沙地上直按下去，叫道：“你不服，就闷死了你。”
杨过眼睛口鼻中全是沙粒，登时无法呼吸，又过片刻，全身如欲爆裂。武敦儒双手用力按住他头，武修文骑在他头颈之中，杨过始终挣扎不脱，窒闷难当之际，这些日子来所练欧阳锋传授的内力突然崩涌，只觉丹田中一股热气激升而上，不知如何，全身蓦然间精力充沛，他猛跃而起，眼睛也不及睁开，双掌便推了出去。