ggerganov/llama.cpp
一句话看懂
让普通电脑甚至手机也能流畅运行AI大模型的底层引擎
适合:想在低配设备上跑AI的人
原简介:LLM inference in C/C++.
亮点
低配电脑也能跑AI
手机上运行大模型
众多AI应用的底层引擎
相似项目
内容聚合自 GitHub 公开信息,中文简介由「开源快搜」生成,仅供参考;请以项目主页为准。
让普通电脑甚至手机也能流畅运行AI大模型的底层引擎
适合:想在低配设备上跑AI的人
原简介:LLM inference in C/C++.
低配电脑也能跑AI
手机上运行大模型
众多AI应用的底层引擎
内容聚合自 GitHub 公开信息,中文简介由「开源快搜」生成,仅供参考;请以项目主页为准。