晋元帝即位的第二年，匈奴族的汉国国主刘聪病死。汉国内部也发生分裂。刘聪的侄儿刘曜接替了国主的地位。他觉得用汉朝的名义并不能欺骗人民，在公元319年，改国号为赵。汉国大将石勒在反晋战争中扩大了兵力，不愿再受刘曜的统治，也自称赵王。
石勒是羯族人，他家世代是羯族部落的小头目。年轻的时候，并州地方闹饥荒，他和部落失散了，曾经给人家做过奴隶、佣人。有一次，石勒被乱兵捉住，关在囚车里。正好他的囚车旁边有一群鹿跑过。乱兵纷纷去追捕鹿群，石勒才趁机会逃走。
石勒受尽苦难，没有出路，就招集一群流亡的农民，组成了一支强悍的队伍。刘渊起兵以后，石勒投降汉国，在刘渊部下当了一员大将。
羯族人的文化比匈奴人要低。石勒从小没有像刘渊那样受过汉族文化教育，不识字。他担任大将以后，渐渐懂得要成大事业，光靠武力不行，就依靠一个汉族士人张宾，采取了许多政治措施。他还收留了一批北方汉族中的贫苦的读书人，组织了一个"君子营"。
由于石勒骁勇善战，加上有了张宾一批谋士帮他出谋划策，石勒的势力更加强大。到了公元328年，终于消灭了刘曜。过了两年，石勒在襄国自称皇帝，国号仍是赵。历史上把刘氏的赵国称为"前赵"，把石勒建立的赵国称为"后赵"。
石勒自己没有文化，但是却十分重视读书人。他做了后赵皇帝后，命令部下，凡捉到读书人，不许杀死，一定要送到襄国来，让他自己处理。
他听从张宾的意见，设立学校，要他部下将领的子弟进学校读书。他还建立了保举和考试的制度。凡是各地保举上来的人经过评定合格，就选用他们做官。石勒严禁部下提到"胡"字、"羯"字。但是为了安抚汉族士人，有时候也没有执行禁令。
有一次，有个汉族官员樊坦被任用做官。樊坦进宫朝见的时候，穿了一身破破烂烂的衣服。石勒吃惊地问他："你怎么穷到这步田地？"樊坦忘记了禁令，回答说："刚刚碰到一批羯贼，把我的家当都抢走，家里连一件像样的衣服都没有了。"
石勒知道他吃了亏，就安慰他说："羯贼这样乱抢东西，太不应该！我来替他们赔偿吧！"樊坦忽然想起了触犯了禁令，吓得浑身发抖，连忙向石勒请罪。石勒笑着说："我这个禁令，是对付一般百姓的。你们这些老书生，我不怪你们。"说着，真的赔给樊坦一些衣服钱财，还赏给他一辆车，一匹马。
石勒挺喜欢读书。他自己不识字，就找一些读书人把书讲给他听，一边听，一边还随时发表自己的见解。有一次，他让人给他读《汉书》，听到有人劝汉高祖封旧六国贵族的后代的历史。他就说："唉！刘邦采取这样错误做法，还怎么能够得天下呢？"讲书的人马上给他解释，后来由于张良的劝阻，汉高祖并没有这样做。石勒点头说："这才对啦。"
又有一次，石勒举行宴会招待大臣，宴席上，他问一个大臣，说："你看我可以比得上古代什么样的帝王？"大臣吹捧说："陛下英明神武，比汉高祖还强，别人更比不上了。"石勒笑了笑说："你说得太过分了。我要是遇到汉高祖，只能做他的臣下，大概跟韩信、彭越差不多。要是我生在汉光武帝那个时候，倒可以和他并驾齐驱，还说不定谁胜谁负呢。"由于石勒重用人才，在政治上比较开明，后赵初期出现了兴盛的气象。
