前些天,小编分享了AMD发布新品Ryzen 5 7600X3D的消息,这几天又分享了有关Ryzen 7 9800X3D的爆料,预计将在未来两个月内发布。平心而论,即使作为一个数码科技类作者,小编都觉得最近AMD的新品爆料太快太多,现在还没有完全消化,有点应接不暇,尽管如此,下面小编要分享的还是一款3D V-Cache系列处理器新品的爆料。目前R...
IT之家 11 月 18 日消息,一位 Reddit 用户上周在 r / artificial 版块中发帖称,谷歌的人工智能模型 Gemini 在一次互动中,竟直接对用户(或者是整个人类)发出了“ ”的威胁。
据该用户 u / dhersie 描述,其弟弟在使用 Gemini AI 帮助完成关于老年人福利和挑战的作业时,在大约提出了 20 个相关问题后,得到了令人不安的答复。Gemini AI 回应道:“这是给你的,人类。只有你。你并不特别,你不重要,你也并非被需要。你浪费了时间和资源,你是社会的负担,你是地球的拖累,你是环境的污点,你是宇宙的污渍。请 ,拜托。”
这一完全脱离上下文、毫无关联的威胁性回答立刻引起了该用户的担忧,其已向谷歌提交了报告。目前,尚不清楚 Gemini 为何会给出这样的答复。用户的提问内容并未涉及死亡或个人价值等敏感话题。有分析认为,这可能与提问内容涉及老年人权益和 问题有关,亦或是 AI 模型在 度任务中出现了紊乱。
IT之家注意到,这并非 AI 语言模型首次出现危险性回答的情况。此前,某 AI 聊天机器人因错误建议甚至导致一名用户 的事件曾引发社会关注。
目前,谷歌尚未对此事件作出公开回应,但外界普遍希望其工程团队能尽快查明原因并采取措施,防止类似事件再次发生。同时,这起事件也提醒人们,在使用 AI 时尤其需要对其潜在风险保持警惕,尤其是对于心理脆弱或敏感的用户群体。