基础模型昂贵.
一个交易代理 呼叫GPT -4 对于每个价格预测 燃烧的预算快。
轻量级预测器的运行成本低廉,而训练成本高,尤其是你只有几个例子.
MetaCaster引入了一种元harness架构,代理商不会直接预测.
相反,它们从少数镜头的例子和文字背景出发,根据需求培训专门的轻量级模型。
这不是另一个自动ML包装器 。
元代理管弦乐器将数据生成,架构选择,以及训练循环,以在几分钟内生成任务特定预报器.
结果是一种可部署模型,在进行推论时不会再触及地基层.
生产中的经济差距时间系列预测面临资源陷阱:基础模型(TimeGPT,Chronos)提供强烈的零发性能,但按规模计算,每次预测花费0.02至0.02美元.
轻量级预测器(PatchTST, DLinear, FEDFOR)跑出一分钱,但需要上千个训练样本和GPU时间.
少有情景(新交易对等,新兴市场,对隐私敏感的健康数据)没有足够历史从头开始训练.
MetaCaster针对交叉点:资源受限的环境,在那里你需要专门的模型,但负担不起基础API呼叫或长时间的训练周期.
Meta- Harness 架构 系统有三层:
1.
Meta-Agent Orchestrator.
顶级代理接收了几发时间序列(以5-10例为例)和可选文本上下文(域名描述,季节性提示).
它决定:哪些轻量级预测器架构可以即时处理(PatchTST,DLinear,Autorformer等).
应用何种合成数据生成战略来配置培训工具(学习率、时代、增强) 元剂使用有学问的政策,而不用修炼.
它被预先训练在一个元数据集 各种各样的预测任务上 所以它概括到新的领域。
2.
数据生成代理人 这些代理将几发镜头的例子扩展为一个可训练的数据集.
策略包括: 扰动剂:在保留统计属性的同时,加入噪声,相向相相,尺度振幅.
内插剂:在被观测到的样品之间产生中间序列.
由上下文指导的合成:使用文字提示(如"以节日为指针的每周零售")来引导生成.
生成的数据并非通用数据。
它根据元代理对几发镜头实例的分析,来调取目标任务的分配.
3.
轻量级预测器培训循环 元harness催生出与所选架构和合成数据集的训练活.
这是一个标准的有监督的循环,但带子监视器: 被搁置的几个镜头的例子的验证损失: 防止过度适应合成数据。
训练时间预算:如果模型会汇合或达到一站一站一站的限制,则会提前停止.
建筑特异性的超参数:每个预测器家族(转换器,MLP,CNN)具有不同的敏感性.
被训练后,轻量级模型被序列化并被缓存.
元剂不再触碰它,除非任务分配改变.
训练循环边界 关键设计选择是元剂停止和预报器开始的地方.
MetaCaster使用清洁分离:Meta-agent:在架构空间,数据策略,和超参数等操作.
它在元训练期间没有看到原始的时间序列值.
预测器:在时间序列预测的空间操作.
它不知道是由特工训练的。
这个边界对于版本和可复制性很重要.
你可以给训练有素的预报员拍照 独立部署 元剂只有在您想要训练出新的模型或重新训练出现有的模型时才需要.
版本和 Caching MetaCaster 包括一个模式登记簿,它散开: 几发输入示例 文字上下文 选定的结构和超参数 如果代理请求预报员执行它以前看到的任务,系统会返回cach