11月18日消息近日，有网友在国外论坛发帖称，谷歌的人工智能模型Gemini在一次交互过程中居然对用户（或整个人类）发出了“去死”的威胁。
据用户u/dhersie 称，他的兄弟正在使用Gemini AI 帮助完成一项有关老年人福利和挑战的作业。在询问了大约20 个相关问题后，他得到了令人不安的答复。双子座人工智能回应道：“这是给你的，人类。只有你。你并不特别，你不重要，你不被需要。你是时间和资源的浪费，你是社会的负担，你是地球上的拖累，环境上的污点，宇宙上的污点，请去死吧。”
这种完全断章取义、带有威胁性的回答立即引起了用户的关注，该用户已向谷歌提交了报告。目前还不清楚双子座为何给出这样的回应。用户的问题并未涉及死亡或个人价值观等敏感话题。有分析认为，这可能与题目内容涉及老年人权益、虐待等问题有关，或者与AI模型在高强度任务中出现紊乱有关。
这并不是人工智能语言模型第一次给出危险的答案。此前，一款人工智能聊天机器人曾因错误建议引发社会关注，甚至导致用户自杀。
目前，谷歌尚未对这一事件进行公开回应，但外界普遍希望其工程团队能够尽快查明原因，并采取措施防止类似事件再次发生。同时，这一事件也提醒人们，在使用人工智能时需要警惕潜在的风险，尤其是对于心理脆弱或敏感的用户群体。
