[Discussion]: 多轮对话下网络搜索结合上下文自动生成合适的关键词

[DeJeune]

Issue Checklist

• I understand that issues are meant for feedback and problem-solving, not for venting, and I will provide as much detail as possible to help resolve the issue.
• I have checked the pinned issues and searched through the existing open issues, closed issues, and discussions and did not find a similar suggestion.
• I confirm that I am here to ask questions and discuss issues, not to report bugs or request features.

Platform

macOS

Version

v1.0.1

Your Question

Context

来自chatwise

Additional Information

Priority

Medium (Would like a response soon)

[tommyzhang100504]

@ousugo @kangfenmao 真的需要考虑增加生成搜索关键词的模型了，现在直接把整个问题丢给tavity太离谱了， #2187 ，这个issue本身是解决了，但是大家发现的这个问题还是挺严重的。（这个没有，感觉整个搜索功能并没有正确地实现）

[DeJeune]

是的，我觉得只要在后端设计一套提示词就可以了

[DeJeune]

是的，我觉得只要在后端设计一套提示词就可以了

然后强烈推荐接入 https://exa.ai/

[tommyzhang100504]

就类似话题命名助手，提示词改成让他生成搜索关键词

[tommyzhang100504]

比如这个例子，现在的逻辑是直接把问题丢给tavity，搜索的内容直接就是“13天包括周末吗？”，这你叫搜索引擎怎么回答，正常人没有这么搜的，AI理解成了婚假......我这里是省略了，完整的问题是“雅思13天出分包括周末吗”，我相信把对话给任何AI，他都能正确总结出这个问题。在这个例子中，网络搜索是完全不可用的，还提供了“婚假”的虚假信息，甚至不如不开联网回答的好

[di404]

@ousugo @kangfenmao 真的需要考虑增加生成搜索关键词的模型了，现在直接把整个问题丢给tavity太离谱了， #2187 ，这个issue本身是解决了，但是大家发现的这个问题还是挺严重的。（这个没有，感觉整个搜索功能并没有正确地实现）

#2187 直接给搜索加上日期这个有点头痛医头脚痛医脚的意味了，本质上还是需要ai去理解上下文，总结搜索关键词，不然没有任何意义啊，跟你直接去搜索引擎搜，然后把结果丢给ai总结一样

[DeJeune]

搜索关键词总结，要把对话上下文传给大模型让它去总结，还是说就传当前这条消息给大模型就可以了？

[DeJeune]

比如这个例子，现在的逻辑是直接把问题丢给tavity，搜索的内容直接就是“13天包括周末吗？”，这你叫搜索引擎怎么回答，正常人没有这么搜的，AI理解成了婚假......我这里是省略了，完整的问题是“雅思13天出分包括周末吗”，我相信把对话给任何AI，他都能正确总结出这个问题。在这个例子中，网络搜索是完全不可用的，还提供了“婚假”的虚假信息，甚至不如不开联网回答的好

你这个例子说明了要把对话上下文给大模型总结

[guo-shaok]

@ousugo @kangfenmao 真的需要考虑增加生成搜索关键词的模型了，现在直接把整个问题丢给tavity太离谱了， #2187 ，这个issue本身是解决了，但是大家发现的这个问题还是挺严重的。（这个没有，感觉整个搜索功能并没有正确地实现）
page assit 的联网搜索的EmbeddingModelForRag模型可自定义，感觉联网的搜索的结果还不错，并且它的搜索引擎也很多

[guo-shaok]

是的，我觉得只要在后端设计一套提示词就可以了
除了提示词 加EmbeddingModelForRag模型都可以提高联网搜索的体验

[DeJeune]

下个版本会合并