现在还有什么领域没有AI的概念？自从ChatGPT大火，大模型之战就拉开了序幕，这次的战火，也延续到了树莓派领域。
前阵子，树莓派正式上市，虽然没有引发很多人关注，但也说明树莓派一直很受开发者欢迎。过去，很多人都把树莓派这个SBC当作开发的“小玩具”，也有人用工业树莓派，作为生产力。而现在，GPT来了，它也彻底改变树莓派了。
2023年3月，就有人开始尝试把GPT放在树莓派上。一位名叫Georgi Gerganov的软件研发人员开发出了一款名为“llama.cpp”的工具，它不仅能在Mac笔记本电脑上本地运行Meta新的GPT-3级AI大型语言模型LLaMA。还有人把它在Raspberry Pi上成功运行了，尽管工作速度非常慢。
2024年2月，创客发起项目，尝试将LLM本地端化。该项目名为World’s Easiest GPT-like Voice Assistant，即世界上最简单的类GPT语音助理，以此实现完全在本机端执行的GPT语音服务，不需要任何网络联机。具体方式是：利用树莓派，比如RPi 4，装上麦克风和喇叭，成为语音互动对话的输入输出，而后安装Whisper这套软件，将麦克风接收到的语音转成文字，文字喂给LLM。LLM接收输入后进行推论处理，处理后的结果以文字输出，输出的文字则透过另一个安装软件进行转化，即eSpeak，把文字转成语音后，再透过喇叭发声回复。
把类GPT-3大模型经过量化缩小后，成功装进树莓派中，好比“大象装冰箱”！对于包含70亿个参数的LLaMA-7B，运行的最低内存要求为8GB或12GB。这对于弱计算能力设备仍是不小的负担，他们内存容量往往只有8G甚至4G，光加载模型这一步就将他们拦在GPT的大门外，更别说还需存储模型执行的中间结果。
借助于模型量化手段，将模型权重进行压缩。如果想使用更大的模型，或者设备的内存进一步受限，那么模型量化的手段也不足以完全支撑模型的部署。这时，能更加进一步将模型分割，并迁移到一个设备集群上执行，让多个模型来均摊巨大的内存开销。
随着在模型初始化以及权重逐步加载，一个具备认知能力的最小智能体就诞生了。向它询问是否了解北邮，经过短暂的思考, 它开始逐字逐句地介绍起北京邮电大学。虽然响应缓慢，但还是成功的完成了整个计算推理流程。
一个名为Floyd的树莓派漫游者机器人，它因为集成了ChatGPT而变得很健谈。
Floyd是YouTube博主Larry的杰作，使用树莓派4B 作为主控板。它部分由一个HAT（Hardware Attached on Top，顶部硬件附加）辅助，用于处理一些外部组件，比如用于操作轮子和手臂的舵机。机器人的身体似乎是用金属制成的，硬件完全暴露并安装在外面。
就ChatGPT机器人而言，Floyd拥有相当多的身体部件可以操控。它可以通过一组轮子移动，甚至有一个能移动的手臂。然而，得益于ChatGPT的集成，Floyd被赋予了说话的能力。通过麦克风和扬声器，Floyd能够直接进行语音到文本和文本到语音的交互并即时地给出定制化的回应。
国外创客 David Packman 也制作了一款基于树莓派的机器人 MBO-AI，它的外观设计灵感来自动漫 Adventure Time 中的机器人 MBO，具有强大的交互功能，可实现脱机唤醒词检测、调用 ChatGPT 3.5 进行聊天、机器视觉对图像做多元化的分析和说明等众多功能。
目前，绝大多数大模型运行在云端服务器，终端设备通过调用api的方式获得回复。再过几年，万一项目组被关停，API接口被关闭，用户花大价钱购买的智能硬件可能会成为一块砖头。因此，如何完全离线运行一直是用户最关心的事情。
使用该模型很简单，但接下来：需要在 OLED 屏幕上流式地显示答案。为此，将使用自定义回调，每当 LLM 生成新令牌时都会执行该回调：
这里，Raspberry Pi 在 5 秒内录制音频，然后语音识别模型将音频转换为文本；最后，将识别出的文本发送给LLM。结束后，重复该过程。这种办法能够改进，例如，利用自动音频电平阈值，但对于一个weekend demo来说，它已经足够好了。
Poetry Camera 用起来，与一般相机无异，按下「快门」即可。 但不一般的是，Poetry Camera 只能生成诗歌，不能拍摄记录照片。对此，我们先看看 Poetry Camera 的技术逻辑：
当按下快门按钮时，Poetry Camera 会将相机拍摄的照片传输给 ChatGPT，由 ChatGPT 识别照片，如其中色彩、形状、物体等关键信息，进而根据视觉数据，自动生成诗歌。
诗歌生成后，再传送给 Poetry Camera，由热敏打印机将其打印出来。
至于为啥不记录照片，Ryan 给出的答案是：简化功能会更易于我们创作这款产品，其次考虑的是隐私问题。
YouTube博主MayLabs演示了一款用树莓派制作支持ChatGPT的智能手表，这款智能手表无需手机或PC支持，可以在任何地方使用，还能够最终靠ChatGPT回答用户的语音问题。
手表部分配有显示麦克风启用的LED 灯、几个按钮、一个 0.96 英寸的双色 OLED 屏幕和两个 Apple Watch 表带的支架。这些按钮为 6 x 6 x 4.3 毫米触觉按钮。此外，该手表还有一个LED用作红外线发射器，因此手表可以在最终更新中用作通用遥控器。
手表上有三个按钮，通过Pi来识别你按了哪一个，通过这一些按钮，您能够得到一些 CPU 统计信息或表盘，但最有趣的是连接到ChatGPT以提问的按钮。答案在显示屏上显示为文本，如果您连接了耳机（有线或蓝牙），也会通过音频显示，因没有任何扬声器。
虽然这款智能手表无需手机或PC支持，但想要与ChatGPT互动还需要互联网连接支持，因此您可以连接到家庭网络上的 Wi-Fi，视频创作者表示，他在咖啡店测试手表时，会将设备连接到智能手机的热点。
随着人工智能技术的慢慢的提升，树莓派慢慢的变成了了实现创新AI项目的热门平台。从能够离线运行的语音识别系统到集成了ChatGPT的健谈漫游者机器人Floyd，再到具有交互功能的桌面机器人MBO-AI，以及支持ChatGPT的智能手表，这些项目展示了树莓派在AI领域的广泛应用潜力。
树莓派与AI的结合，不仅为技术爱好者和开发者提供了一个实验和创造的平台，也为我们打开了一扇通往智能世界的大门。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
我工资16000，被新领导下调到6000，我请假一周旅游，不回工作消息，然后公司损失500万订单
受贿949万元！小学校长钟海燕贪腐细节披露：弟做工程姐经营食堂，学校成家族“摇钱树”
俄对乌发动导弹袭击，泽连斯基发声！俄罗斯：库尔斯克约63%最初被乌军占领的区域已被俄军控制
3.5万元买下北海道170平一户建，“免费送的也有”，中国年轻人“捡漏”日本低价中古房
4-1！英超黑马11场不败 超曼城升第6 终结纽卡9连胜 名宿之子戴帽
上一篇:P10单色显现屏设置阐明pdf
下一篇:扬州3个省前沿研发技术项目立项
