@VTHINKXIE:如果你既想在 LLM 中获得结构化的数据返回，又想要有 streaming 的速度，可以考虑下 best-effort-json-parser 这个库，虽然原理都是大力出奇迹，但是肯定比自己写要靠谱这里有一篇 step by step 的文章网页链接桃子圈-微博全数据

VTHINKXIE

923 粉丝

863 关注

3171 微博

1970年1月1日
昵称： VTHINKXIE
简介： LeptonAI founding member / GoogleDevExpert / TheASF committer / ex AlibabaGroup
微博使用天数：19867
保存微博：329

本站在持续运行中，《免费无广告》
长期提供查看半年可见微博，请大家帮忙宣传转发！

VTHINKXIE

923

粉丝

863

关注

3171

微博

1970年1月1日
昵称： VTHINKXIE
简介： LeptonAI founding member / GoogleDevExpert / TheASF committer / ex AlibabaGroup
微博使用天数：19867
保存微博：329

本站在持续运行中，《免费无广告》
长期提供查看半年可见微博，请大家帮忙宣传转发！

2024-04-28 16:03:00 来自微博网页版

如果你既想在 LLM 中获得结构化的数据返回，又想要有 streaming 的速度，可以考虑下 best-effort-json-parser 这个库，虽然原理都是大力出奇迹，但是肯定比自己写要靠谱这里有一篇 step by step 的文章网页链接

3

2

0

最近更新

合作请扣2380002763，恶意寻事滋事者会被我挂和拉黑

沙姆雄狮_EL

中东、北非、东欧等地军事冲突最前沿消息，还原战争最真实的一面

宇从云中游

养猫院官方微博😼

张真源火力研究所

专注🧱 👍🏻 🍎 隶属于张真源后援会

一只奶糖鼠

在捷难逃中

互联网女孩安利日记

追星磕剧吃瓜

幼儿园园长熊熊

祖国花朵快乐源泉 ❤️ 投稿请私信

住在长江边上的刘二娃

窗外沙沙春雨声，万丛绿芽往上升。

观察者网的社区平台，入驻账号超1000，包括自媒体账号侠客岛、后沙月光、地球知识局等，专家学者金灿荣、林毅夫、张维为等。

不是yxh哦～各位小可爱～视频源自网络，如有侵权，联系必删

硬核科技迷

全球硬核科技博览

画画画吐吐槽，开心就好

龙小姐很闲

闲着，可以做很多事情。

我有两只小狗˖◛⁺⑅♡

河南省高级人民法院新浪官方微博

游戏超话社区

若无必要不再赘述

我真的想不出来一个人素质会低下到什么地步，直到看见你写的这个。素质真的低下