@VTHINKXIE:如果你既想在 LLM 中获得结构化的数据返回，又想要有 streaming 的速度，可以考虑下 best-effort-json-parser 这个库，虽然原理都是大力出奇迹，但是肯定比自己写要靠谱这里有一篇 step by step 的文章网页链接桃子圈-微博全数据

VTHINKXIE

924 粉丝

863 关注

3172 微博

1970年1月1日
昵称： VTHINKXIE
简介： LeptonAI founding member / GoogleDevExpert / TheASF committer / ex AlibabaGroup
微博使用天数：19900
保存微博：331

本站在持续运行中，《免费无广告》
长期提供查看半年可见微博，请大家帮忙宣传转发！

VTHINKXIE

924

粉丝

863

关注

3172

微博

1970年1月1日
昵称： VTHINKXIE
简介： LeptonAI founding member / GoogleDevExpert / TheASF committer / ex AlibabaGroup
微博使用天数：19900
保存微博：331

本站在持续运行中，《免费无广告》
长期提供查看半年可见微博，请大家帮忙宣传转发！

2024-04-28 16:03:00 来自微博网页版

如果你既想在 LLM 中获得结构化的数据返回，又想要有 streaming 的速度，可以考虑下 best-effort-json-parser 这个库，虽然原理都是大力出奇迹，但是肯定比自己写要靠谱

这里有一篇 step by step 的文章
网页链接

4

4

0

最近更新

她肯定对你有感情

只述事实，不谈观点！大号：@中事

合作私信，欢迎投稿

工作联络：[email protected]；

点关注，不迷路

部分素材来源网络如侵权私信联系删除

通知群653570684｜爱发电@洛洛子｜B站/小红书@狐洛洛子｜IG/油管@rakukoo｜Twi/FB@rakukoooo｜合作私信

BRTV教育面对面

《教育面对面》节目官方微博，播出频率：FM107.3、AM1026北京广播电视台，欢迎收听！

岩港听书人

接攻略/闲聊吐槽/求助等投稿，不接引战挂人晒欧稿转载或其他用途需授权

迷宝吃不饱

分享迷惑 | 欢迎投稿

峡谷专用提莫崽

著名被窝虫

让我用不字造句，我只会写出来绝不绝不

小号，只聊育儿

大家好，我们是大型青春女团CGT48。感谢您对我们的支持与关注！

情感颜值I商务对接

毕雯珺BiBi机

成为毕雯珺的御用BB机，努力为大家持续发放情报🔋~ 工作联系：[email protected]；粉丝邮箱：[email protected]；B站UID:456416401

宇宙迷、狗奴、股民