分不清大模型是不是已经植入广告了

[lyx1975]

前几天水群看到群友用某国产大模型问“雷火剑的作品有什么？”

大模型回答有小说和影视，小说回答的是国产网文小说，影视回答的倒是没问题。

我自己试了试，还真是这样回答的，又去问了几个主播相关问题，其中好几个回答中列举的第一个都是同一个某平台大力推的带货主播。

换句话说，如果以后 ai 不回答“根据 xxxx ，不予显示”了，而是胡言乱语打软广，谁能分清这是广告还是大模型练出幻觉了？

[aitianci]

我倾向于认为目前模型厂商还没能力针对性投放广告，这个主播频繁出现纯粹因为他在搜索引擎中排名靠前被 RAG 抓了

[Qiuchi]

@aitianci 模型层面投放确实困难，但 rag 投放那可不要太简单…