hyphyyy
2025-03-27T01:14:58+00:00
手机APP上的问题,马上就会被同步到电脑APP上,会话记录都会上传到服务器而非只存本地
简单说下:
1、大模型推理是一个无状态服务,你问它什么,它就在范围内回答什么
2、所谓记忆,就是将最近的会话信息,作为长文本再次交个大模型进行推理回复
PS:一群人完全不明白大模型的会话怎么存的,以为推理在云端会话也必须在云端,真是笑
还有些人拿微信来类别,更是low,一个是需要传输给其他人,走服务器很正常;而这个需要传输给其他人吗。
大模型服务是无状态的,各家存储用户会话到服务器都是别有用心
为什么一堆人理所当然的认为会话存到服务器是正常的?大模型只是一个推理服务,本身是不用存会话数据。
太多的人总说,其他家都这么做,所以这么做就没有问题。。。
简单说下:
1、大模型推理是一个无状态服务,你问它什么,它就在范围内回答什么
2、所谓记忆,就是将最近的会话信息,作为长文本再次交个大模型进行推理回复
PS:一群人完全不明白大模型的会话怎么存的,以为推理在云端会话也必须在云端,真是笑
还有些人拿微信来类别,更是low,一个是需要传输给其他人,走服务器很正常;而这个需要传输给其他人吗。
大模型服务是无状态的,各家存储用户会话到服务器都是别有用心
为什么一堆人理所当然的认为会话存到服务器是正常的?大模型只是一个推理服务,本身是不用存会话数据。
太多的人总说,其他家都这么做,所以这么做就没有问题。。。