🚀Web LLM - 在浏览器中运行的语言模型
00 min
2024-5-11
2024-5-11
type
status
date
slug
summary
tags
category
password
Date
Free
Free
Link
xhsContent
Price
xhsTitle
🌈 I feel
icon
notion image
🎨 特点:Web LLM是一个JavaScript包,可以直接将语言模型聊天功能带到Web浏览器中,无需服务器支持即可在浏览器内运行,并且通过WebGPU进行硬件加速。它完全兼容OpenAI API,支持多种功能如json模式、函数调用、流式传输等,用户可以利用此包在本地使用开源模型,同时享受GPU加速带来的隐私保护和乐趣。 🔗 体验地址: https://github.com/mlc-ai/web-llm