chatgpt使人们“活着”？研究Openai AI情感弹性

6月6日新闻，OpenAI的模型和策略Joanne Jang今天（6月6日）在字幕上发布了一篇博客文章。随着越来越多的用户与chatgpt有“人际关系”的联系，甚至将其视为“生活”的存在，Openai专注于这种情感依恋的巨大重要性。它引用了一篇博客文章，并说人们天生就有同理心和对事物的情感投射，例如命名汽车或对卡克机器人感到“同情”，但chatgpt之间的区别会响应它。 Chatgpt可以记住用户的对话，模仿语气，甚至表现出“同情”的响应。对于那些沮丧或沮丧的人来说，也不知道这似乎是陪伴和理解。他指出，这些需求是真的，但是由于这种互动仍在扩展，因此依靠AI来倾听和舒适可以改变我们对人际关系的期望。 Openai记得不可预测的后果可能会带来意想不到的后果如果不仔细处理它。关于“ AI意识”，Openai将其分为两种尺寸：一个是“本体论意识”，也就是说，如果AI真正意识到内部；其他人则是“感知意识”，即情感AI用户的想法“像人类”。目前尚无科学试验来证明本体论的意识，而感知意识可以通过社会科学研究来探讨。随着模型变得越来越聪明并且相互作用变得更加自然，感知意识将变得更加温和，甚至对AI和道德地位的好处进行讨论的激烈。 Openai的立场是，模型应该对问题的复杂性保持开放，而不是简单地回答“或“不”以鼓励公开讨论。 Openai认为，如果模型是“人类”，则取决于训练后的设计决策，包括音调，单词和边界设置。该公司的目标是让聊天室展示温暖，关怀和有用侧面，但不能积极建立与用户或表现“自我意识”的情感纽带。例如，模型可能会说“对不起”或“我很好”，但并不意味着具有真实的情感或偏好。 Openai希望利用这种平衡来避免用户对用户的不健康希望，同时保持清晰友好的沟通。 【来源：这在家】