Repository navigation
Replies: 1 comment
|
tbh telegram itu ga punya fitur streaming beneran, jadi polanya tuh kirim pesan dulu terus edit pesan itu berkali kali seiring teks dari ai model ngalir. dari sisi user kelihatannya kayak streaming padahal itu edit berulang. caranya, kirim satu pesan dulu pakai sendmessage. terus tiap model ngasih token baru, kumpulin dulu di satu string. jangan edit tiap token, telegram itu ngebatesin edit, kira kira satu edit per detik per pesan itu aman. jadi editnya tiap satu detik atau tiap beberapa kata kekumpul. const sent = await bot.sendmessage(chatid, '...')
let text = ''
let lastedit = 0
for await (const chunk of stream) {
text += chunk
const now = date.now()
if (now - lastedit > 1000) {
await bot.editmessagetext(text, { chatid, messageid: sent.messageid })
lastedit = now
}
}
await bot.editmessagetext(text, { chatid, messageid: sent.messageid })btw sambil nunggu modelnya mikir, kirim sendchataction typing biar user tahu botnya lagi kerja. ngl kalau modelnya lama, kirim typingnya berulang tiap beberapa detik soalnya status typing itu cuma bertahan sebentar. |
0 replies
Sign up for free
to join this conversation on GitHub.
Already have an account?
Sign in to comment
Uh oh!
There was an error while loading. Please reload this page.
I want to stream text data based on an AI model response how can I send that
All reactions