PocketPal AI本地大模型

PocketPal AI本地大模型是一款创新的离线AI助手应用，能够在用户设备上独立运行各类开源大语言模型。它打破了网络限制的束缚，让用户无论身处何地——无论是飞行途中还是偏远地区——都能享受稳定可靠的AI服务。该软件兼容多种主流模型，所有数据处理均在本地完成，既保障了隐私安全，又实现了零延迟响应。基础功能完全免费开放，让离线AI体验触手可及。

官方简介

PocketPalAI是一款别具一格的移动应用，专为iOS和Android用户打造，能将小型语言模型（SLMs）的强大功能引入你的智能手机。其核心优势在于离线AI功能，只要下载好模型，即便处于无网络的环境，像在飞机上、偏远地区等，也能在设备上与先进的AI模型畅快交流。该应用还支持多种模型，如Danube、Phi、Gemma2、Qwen等，用户可依据自身需求自由选择和切换。它集成了HuggingFace模型库，可直接在应用内搜索、收藏及下载GGUF格式的模型，极大地丰富了模型资源。同时，PocketPalAI高度重视隐私安全，所有对话和数据处理均在本地完成，确保用户数据不会外流。自动内存管理功能也很贴心，在应用后台运行时自动卸载模型，需要时再重新加载，保障设备内存的合理利用。而且，用户还能自定义模型参数，如系统提示、温度、BOS令牌和聊天模板等，以获取个性化的AI交互体验，使用过程中还能实时查看每秒生成的令牌数以及每个令牌生成所需的毫秒数，了解AI运行效率。

软件亮点

安全和私密

您的数据永远不会离开您的设备。所有对话均在本地处理，提供安全性和安心。

基准测试

在手机上对模型性能进行基准测试并与社区分享。

离线聊天

直接在您的设备上与高级模型交互，无需互联网连接。

PocketPal AI本地大模型优势

完全离线

无需互联网，所有处理均在您的设备上本地进行。

隐私第一

您的数据保留在您的设备上，确保完全的隐私和安全。

先进技术

针对本地处理进行优化的尖端 LLM 技术。

软件特色

HuggingFace集成：可直接从HuggingFace模型库中搜索、下载和使用模型，丰富模型资源，满足个性化需求。

自动内存管理：具备AutoOffload/Load功能，在后台运行时自动卸载模型，有效管理设备内存，避免性能问题。

离线：下载模型后，无需互联网连接即可直接在设备上与AI模型互动，无论身处何地，都能确保不间断地访问AI助手。

多模型支持：支持H2O-Danube、GGUF格式的各种AI模型及DeepSeek、Phi、Gemma2、Qwen等，用户可根据需求选择和切换。

自定义设置：用户能调整模型的系统提示符、温度（随机性）、BOS令牌及聊天模板等参数，定制个性化AI交互体验。

实时性能指标展示：生成响应时，会显示每秒生成的令牌数以及每个令牌生成所需的毫秒数，让用户了解AI运行效率。

用户反馈机制：内置反馈机制，使用者可直接向开发者提交问题或建议，助力产品优化升级。

PocketPal AI中文版主要特点

多元模型随心选：支持下载多款不同的小型语言模型（SLM），像热门的 Danube 2 和 3、Phi、Gemma 2 以及 Qwen，您可以根据自己的需求，在它们之间自由切换使用，满足多样化的交互需求。

智能内存管理：具备 Auto Offload/Load 功能，当应用程序转入后台运行时，系统会自动卸载模型，以此高效管理设备内存，确保设备运行流畅，避免内存占用过高导致的卡顿。

推理参数自定义：用户可对模型参数进行个性化设置，不管是系统提示符、控制生成内容随机性的温度参数，还是 BOS 令牌和聊天模板，都能按您的心意调整，打造专属的 AI 交互体验。

离线智能随行：语言模型直接在您设备本地运行，无需借助网络连接，随时随地，只要您需要，智能助手即刻响应，完全不受网络条件的限制。

实时性能可视化：在 AI 生成响应内容的过程中，为您实时展示性能指标，包括每秒生成的令牌数以及每个令牌生成所需的毫秒数，让您对 AI 运行效率一目了然 。

PocketPal ai本地ai大模型加载方式

用户可以在app中直接下载模型，下载时需要连接到互联网

比如这里可以下载到谷歌ai大模型Gemma，阿里通义千问的大模型Qwen等

其它ai大模型，比如DeepSeek的可以点击右下角的添加按钮，将手机里下载好的模型加载进来即可

模型加载后设置完成后可进入设置界面进行相关设置，设置完成后即可进行诸如随时随地与模特进行私密的离线对话等相关操作

更新日志

v1.10.13版本

修复：useChatSession中聊天消息重复问题

包名 : com.pocketpalai

md5 : 8be00f1d819c3d2c69801b5a65d15278