Reddit r/LocalLLaMA短讯

一个24KB的独立HTML-LLM，可生成连贯故事

1 天前reddit.com作者：/u/Chromix_开源AI评分：50/100

作者展示了一个仅24KB大小的独立HTML文件，内置轻量级语言模型。用户只需在浏览器中点击“New seed”即可生成不同的故事片段，无需服务器支持。该工具旨在证明端侧运行LLM的可能性与趣味性，在智能手机上也能达到每秒60个token以上的生成速度。