【示例】本地推理一开始能运行，对话变长后却明显变慢，应该记录哪些指标？

试运营示例：参与成员与历史互动为演示数据，欢迎留下你的真实想法。

短输入的体验还可以，随着上下文增长，等待首个输出的时间变长，内存占用也在变化。暂时不想仅凭感觉换更大的设备。

计划记录输入长度、首个输出耗时、生成速度和机器资源占用。想请大家补充需要控制的变量，尤其怎样区分载入、输入处理和生成阶段的问题。