此情此景，王世充也忍不住在老泪横流。
王世充又看见其余三辆囚车内，分别是自己的侄子、大将，心里更是愁上加愁，痛上加痛。
王世充气恨和伤心交加，眼前一阵发黑，险些儿在城上站立不住，几乎要一头栽下城来。
李世民又对王世充说：
“你若不投降，我就要将他们斩首！”
王世充放声大哭，说：
“且慢！我应当投降，大王肯允许我免死么？”
李世民喊道：“准你免死！”
王世充乃下城，召集众将商议。
有的说不如逃走，有的说不如死战，有的说：
“我们依赖的是夏王窦建德，如今夏王己被俘。
我们就算是全力突围，最终成功不了。”
这时长孙安世，由唐军放回城中，力劝王世充出城投降。
王世充于是改穿白色衣服，率领百官群臣，共二千多人，开城门迎接唐军。
李世民按礼节接受他们投降。
王世充俯下身子磕头谢罪，他低着头，前额脸上汗水顺着下巴不停地往下滴。
李世民说道：
“你以为我是个刚二十岁的孩子，如今见了我这个小孩，你为什么又这么恭敬？”
王世充再叩头谢罪。
于是李世民先分派一部分人进城，分别把守市面商铺，禁止有人趁乱骚扰抢掠，没有一人敢违犯禁令。
五月初十，李世民进入洛阳宫城。
李世民命令房玄龄先进入洛阳宫城中书省、门下省，收集隋朝的地图、户籍、制文诏书。
但这些已被王世充命人销毁，几乎没有找到什么。
李世民又命令萧瑀、窦轨等人封存隋仓库，清点查收金钱布帛，分赐给唐军将士们。
唐军奉命拘押了罪行特别大的十几名王世充同党，他们是：
段达、王隆、崔洪丹、薛德音、杨汪、孟孝义、单雄信、杨公卿、郭什柱、郭士衡、董睿、张童儿、王德仁、朱粲、郭善才等。
把他们都绑着押到洛河岸边，全部砍了头。
老百姓最恨朱粲，观看行刑后，争着弯腰捡拾瓦片石头，然后用力扔出瓦块石头，投掷击打朱粲尸首。
不大一会儿，朱粲尸身上的石头瓦片就堆成了小山一样。
李世民有个手下将领叫李世，因为都是出身瓦岗，他和单雄信感情很好，发誓同生共死。
等到平定了洛阳，李世对李世民说单雄信骁健无敌，李世请求用自己全部官爵来赎单雄信的命。
李世民不准许。李世再三请求，仍不准许。
李世心情痛苦地退出帅帐。
李世去见关押着的单雄信，哭着对单雄信说：
“大哥，我求过我家主帅了，没有求成。”
单雄信对李世说：
“我早知道你办不到这事啊。”
李世说：
“我不惜余生，和兄长一同死，但是我既然把这条命献给了国家，事情就无法两全。
况且我死了以后，谁来照护兄长你的妻子、孩子呢？”
李世于是割下自己大腿上一片肉，让单雄信吃下。
李世说：
"让这块血肉随兄长化为尘土，也算不辜负当年的誓言吧！”
行刑时辰到，单雄信连同那十几个罪犯一同被斩首。
李世民命令把拘押的韦节、杨续、长孙安世等十几个人连同王世充、窦建德一起押送长安。
唐军打开洛阳监狱，把没犯罪就被王世充关押的老百姓一律释放。
窦建德妻子曹淑贞，夏国左仆射齐善行领一百多名骑兵逃回洺州（邯郸）。
这些残余部众打算立窦建德的养子为王，齐善行力排众议，最后带领百官携带夏国传国八玺降唐。
621年七月，李世民奏凯歌率大军回师长安。
唐军部队前部和尾部各安排一支乐队演奏欢庆乐曲，沿途老百姓闻鼓乐之声而奔走相告，一路上都有百姓夹道欢呼。
李世民共率铁骑一万匹，铠甲兵士三万，返入长安。
然后将窦建德、王世充牵押到太极殿阶下，听候李渊给他俩定罪发落。
李渊上殿，先召入王世充。
王世充跪在台阶下，三次高喊万岁，磕了好几个响头。
李渊说：
“你这个人残暴狠毒，我早就知道。
最可恨你杀我降臣李公逸、张善相！
不将你正法，无以慰籍忠良怨魂。”
王世充又磕头说：
“我的罪固然该杀，但秦王已答应不杀我了。”
秦王李世民就在李渊身边，李渊看了一眼李世民：