Meta Ray-Ban 智能眼镜的实时 AI 助理 - 通过 Gemini Live 和 OpenClaw 提供语音、视觉和主动操作
Meta Ray-Ban 智能眼镜的实时 AI 助理 - 通过 Gemini Live 和 OpenClaw 提供语音、视觉和主动操作
Meta Ray-Ban 智能眼镜的实时 AI 助理。看见你所看到的、听到你所说的话,并代表你采取行动 — — 这一切都通过语音实现。 基于 Meta Wearables DAT SDK (iOS) / DAT Android SDK (Android) + Gemini Live API + OpenClaw (可选)。 支持的平台: iOS(iPhone)和 Android(Pixel、三星等)
戴上眼镜,点击 AI 按钮,然后说话:
关键部分:
Gemini Live -- 通过 WebSocket 实时语音 + 视觉 AI (原生音频,不是 STT-first)
OpenClaw (可选) -- 本地网关,使 Gemini 能够访问 56 个以上的工具和所有连接的应用程序
电话模式 -- 使用手机摄像头而不是眼镜来测试完整的流程
WebRTC 直播 -- 将眼镜的 POV 直播共享给浏览器观看者
默认网关(api.visionagents.app)是用于用户研究的小型私人飞行员实例,不是公共服务,因此其代码不会公开。 - 自主托管: 在 gateway/ 中运行网关,并在其 .env 中设置 GATEWAY_TOKENS="<any-secret>:<your-name>",该秘密就是您的访问代码。在 Secrets.swift/ Secrets.kt(gatewayBaseUrl)中指向应用程序的网关。
暂无开放 Issues,或尚未同步最近议题。