乌克兰开发者在ESP32-S3上部署2890万参数AI模型

7月27日，乌克兰开发者Slava S成功在乐鑫ESP32-S3开发板部署含2890万个参数的本地AI模型。该板仅配备512KB SRAM、8MB PSRAM和16MB闪存，此前AI参数上限为26万。开发者采用Gemma的分层嵌入技术及4-bit量化，将14.9MB模型存入闪存，推理时按需读取嵌入表。受限于算力，模型暂不支持聊天或编程，但可应用于离线咖啡机等垂直场景。

免责声明：本文内容由开放的智能模型自动生成，仅供参考。