据動察 Beating 監測,OpenAI 開源教育專案 Plant Talk,將 Realtime API、多模態視覺模型與 Arduino 微控制器結合,讓室內植物具備環境感知與語音對話功能。
專案支援通過電腦攝影頭和麥克風與植物進行低延遲全雙工語音對話,並能透過 Arduino 接入電容式土壤濕度和 LM393 光敏感應器。植物的 AI 角色(如預設角色 George)透過函數呼叫(Function Calling)獲取硬體數據。當使用者詢問是否缺水或光照時,AI 會呼叫工具讀取即時物理指標,結合攝影頭捕獲的影像估算植物乾燥度、分枝數以及最大跨度(支援使用 25 美分硬幣作為尺寸對照),並以拟人的植物口吻進行語音回應。
在安全與介面設計上,後端 Express 伺服器通過申請臨時客戶端密鑰(Ephemeral Token)將 WebRTC 連線安全委託給前端,避免在客戶端洩露 API 主密鑰。視覺識別與定時觀測使用 Responses API 結合 Zod 模式以實現結構化輸出。程式庫中還內建面向 AI 智慧體的操作指南 AGENTS.md,指導 AI 助手逐步引導使用者完成軟體環境配置與硬體組裝。