type
status
date
slug
summary
tags
category
password
Date
Free
Free
Link
xhsContent
Price
xhsTitle
🌈 I feel
icon

🎨 特点:Web LLM是一个JavaScript包,可以直接将语言模型聊天功能带到Web浏览器中,无需服务器支持即可在浏览器内运行,并且通过WebGPU进行硬件加速。它完全兼容OpenAI API,支持多种功能如json模式、函数调用、流式传输等,用户可以利用此包在本地使用开源模型,同时享受GPU加速带来的隐私保护和乐趣。
🔗 体验地址: https://github.com/mlc-ai/web-llm
- Author:AGILab
- URL:http://agilab.top/article/a6c3e9f1-9299-40fa-8559-0f221a204f37
- Copyright:All articles in this blog, except for special statements, adopt BY-NC-SA agreement. Please indicate the source!