动态调整对LLM的依赖以管理其不可靠性
Maximizing LLM Utility While Managing LLM Fallibility
AI 摘要
Samani与Atkeson的综述提出,自主系统应随LLM表现证据积累动态调整对其依赖:按LLM承担的角色估计可靠性,再用决策理论、估计和在线学习等经典方法决定何时采纳其规划、预测或判断。文章未报告量化结果,但为具身系统安全使用LLM提供了可操作框架。
标题与摘要由 AI 根据原文自动生成,可能存在偏差;具体数据与结论请以原文为准。
Maximizing LLM Utility While Managing LLM Fallibility
AI 摘要
Samani与Atkeson的综述提出,自主系统应随LLM表现证据积累动态调整对其依赖:按LLM承担的角色估计可靠性,再用决策理论、估计和在线学习等经典方法决定何时采纳其规划、预测或判断。文章未报告量化结果,但为具身系统安全使用LLM提供了可操作框架。
标题与摘要由 AI 根据原文自动生成,可能存在偏差;具体数据与结论请以原文为准。
意大利比萨大学与代尔夫特理工大学团队(Cosimo Della Santina 等)提出 multi-CONDOR 框架,基于 CONDOR 动力系统模型,用模仿学习结合隐参考系统一致性损失,让机器人运动基元同时支持多个离散吸引子或一条连续吸引目标轮廓。作者给出基于 Lyapunov 的收敛性分析,并在操作任务上验证了多目标收敛效果。
Marc Bestmann 等人对 MoveIt 常用逆运动学求解器在内窥镜受限场景进行基准测试,并比较多种实用改进方案。结果显示,将 IK 问题拆分为两部分效果最佳,在内窥镜水箱场景中实现 100 ms 内 100% 成功率。
作者提出广义闭合条件,使单个神经控制屏障函数可以跨不同障碍物配置复用:把状态表示为相对各障碍物的坐标,并用残差项补回相对坐标中丢失的演化信息;同时给出提升定理,把已验证的屏障迁移到同族所有障碍物;再用秩检验识别仅靠对称性不足以支撑迁移的情形,并在欠驱动车辆仿真上验证。
CMU 研究者 Abuduweili 与 Changliu Liu 指出,Koopman 控制器能稳定学到的潜空间线性模型,却未必能稳定真实非线性系统。他们提出切空间不变 Koopman(TIK):从离线数据估计局部线性化并强制一阶匹配,在目标点恢复拟合的 LQR 增益,并用双线性预测器捕捉大幅机动中状态相关的驱动。