🚀WebLLM:浏览器内运行的语言模型聊天工具
00 min
2024-5-23
2024-5-23
type
status
date
slug
summary
tags
category
password
Date
Free
Free
Link
xhsContent
Price
xhsTitle
🌈 I feel
icon
notion image
🎨 特点:WebLLM 是一个可定制的 JavaScript 包,使得大型语言模型和聊天功能能够在浏览器中直接运行,无需服务器支持,且具备硬件加速。它与 OpenAI API 完全兼容,支持流式传输、函数调用等功能,并允许通过 Web Worker 和 Service Worker 实现更高效的后台处理。 🔗 体验地址: https://github.com/mlc-ai/web-llm