官渡之战结束，陈琳跟随战败的袁绍北归至冀州，此时的河北局势风云变幻，四州之地叛乱四起，重病的袁绍在平定河北之乱后，终于耗尽了自己最后一口气。
由于之前袁绍已经将自己的长子袁谭过继给了被董卓所屠的兄长袁基，在宗法观念来看，袁谭不具备继承袁绍的位置。
袁绍去世后，审配等以袁绍生前明确袁尚是其继承人为由，拥立袁尚继承袁绍的位置。
陈琳如同河北大多数人一样，追随了袁尚。
袁氏兄弟为了河北之主的位置，互相攻伐，曹操趁机渡过黄河，击败袁氏兄弟，最终一统华夏北方。
虽然官渡之战前，陈琳写的那篇《为袁绍檄豫州》文，连同曹操的祖宗都一同骂了进去。
但是曹操平定冀州后，还是因为爱惜陈琳的才华，并未追究过去的事情，且为了展示自己海纳百川的胸襟。
曹操任命陈琳担任司空军谋祭酒，管记室，此后魏国书檄多为陈琳和阮瑀所作。
为此还出现了一个小插曲。
曹操攻下邺城后，遇到单独前来归顺的陈琳，曹操指着陈琳，故作生气的道：“陈孔璋，你居然还有脸来见我。作为天下名士，各为其主时，你写文章数落我也就罢了，为何连我祖宗三代都痛骂一遍？”
陈琳委屈得如同受气的小媳妇一般，愁眉苦脸的说道：“在下当初在袁本初手下做事，袁公自诩出身名门，而曹公祖父乃是宦官，这是袁公逼我所写，乃形势所迫，并非在下的本意，实在是没有办法啊！
就好像一支已经被搭在弓弦上的箭，不得不发射出去一样。”
后世根据此典故引申出成语“箭在弦上”。
曹操随后哈哈一笑，并没有追究陈琳之前的事情，甚至还重用对方。
曹操平定北方后，将自己的主要办公地迁到了邺城，仍然将汉献帝留在许昌。
作为掌握曹操记室的陈琳，自然大多数时候皆在邺城办公。
当时的陈琳在曹操麾下任职，而他的同乡好友张纮则在孙权手下做事，两人当年在广陵时就是非常要好的朋友。
虽然各为其主，但是两人都互相仰慕对方的才华，仍然时常有书信往来。
有一天，一位贵客送了张纮一套栩榴枕，张纮见了礼物很是喜欢，专门为此作了一首赋，赞美栩榴枕。
当时远在千里之外，北方邺城的陈琳见到了这篇文章后，赞赏不已，甚至亲自写信派人送去江东，恭贺对方。
在一次请客宴宾时，陈琳特地拿出这篇赋文让在座的宾客传阅、欣赏，并不断地夸耀说道：“这篇文章写得多么清新脱俗啊！你们知道吗？这篇文章的作者是我的同乡好友张纮，张子纲所着。”
几年后，陈琳也陆续发表的自己的着作《武库赋》、《应机论》，远在江东的张纮读完后，不由得拍案叫绝，并立刻写了一封信送到邺城的陈琳处。
信上对陈琳文辞清新、见解独到的文章风格大加赞赏，并表示要好好地向他学习。
陈琳见到此信感慨极了，思考良久，谦虚的回了一封信给张纮。
信中写道：“我虽然是广陵人，却基本生活在北方的邺城。这里与你们江东之间的消息并不畅通，我也很少与天下文士畅谈各种文学话题，因此，我也没见过什么大世面。
只是我们这里能写文章的人不多，这才让我凸显出来，得到了大家过分的称赞，并不是我的才学真有什么造诣，是你太夸奖我了。