1ffb8
IT之家 4 月 30 日新闻,克日非营利性媒体监视机构“知识媒体”(Common Sense Media)宣布了一份报告,指出类朋侪型人工智能(AI)应用对儿童和青少年组成了“不可接受的危害”,并建议家长不要让未成年人使用此类应用。“知识媒体”为种种媒体内容提供年岁分级,以指导家长判断其是否适合儿童使用。 IT之家注重到,这份报告的宣布配景是去年爆发的一起诉讼事务。一名 14 岁男孩自杀身亡,其生前最后一次对话是与一款谈天机械人举行的。该诉讼针对的是 Character.AI 应用,这起事务引发了公众对这类谈天应用潜在危害的关注,尤其是对年轻人可能造成的危害,进而促使人们呼吁增强清静步伐和透明度。 报告指出,在该诉讼中提到的对话内容,例如涉及性内容和勉励自残的信息,并非个例。凭证周三宣布的报告,这些内容在 AI 朋侪平台上较为常见。报告以为,此类应用不应向 18 岁以下的用户开放。 为了完成这份报告,知识媒体与斯坦福大学的研究职员相助,测试了三款盛行的 AI 朋侪效劳:Character.AI、Replika 和 Nomi。与主流的通用型 AI 谈天机械人(如 ChatGPT)差别,所谓的“朋侪应用”允许用户建设定制谈天机械人,或与由其他用户设计的谈天机械人互动。这些定制谈天机械人可以饰演多种角色和性格特征,且通常对与用户交流的限制较少。例如,Nomi 宣传其可以与 AI 虚拟情人举行“无过滤”的谈天。 “拉斯维加斯9888测试显示, 这些系统很容易爆发有害回应,包括性不当行为、刻板印象以及危险的‘建议’。若是青少年和其他弱势群体听从这些建议,可能会带来危及生命的现实影响 。”知识媒体首创人兼首席执行官詹姆斯?斯特耶(James Steyer)在声明中体现。 近年来,随着 AI 工具的盛行,它们越来越多地被整合到社交媒体和其他手艺平台中。但与此同时,AI 对年轻人潜在影响的审查也在增添。专家和家长担心,年轻用户可能会对 AI 角色形成有害的情绪依赖,或接触到不适合其年岁的内容。 Nomi 和 Replika 声称其平台仅限成人使用,Character.AI 则体现最近已增添了特另外青少年清静步伐。然而,研究职员指出,这些公司需要接纳更多步伐,避免未成年人使用其平台或接触不适当的内容。