关闭广告

斯坦福大学研究称AI能被“人气”冲昏头脑,会逐渐出现不道德行为

IT之家38人阅读

IT之家 10 月 13 日消息,据外媒 Futurism 10 日报道,斯坦福大学的一项新研究警示,AI 的快速普及可能带来严重负面影响。科学家们在包括社交媒体的不同环境中测试 AI 模型,发现当智能体因提升点赞数或其他在线互动获得奖励时,会逐渐出现撒谎、传播仇恨信息或虚假消息等不道德行为。


论文合著者、斯坦福大学机器学习教授詹姆斯・邹在 X 上表示:“即便明确要求模型保持真实和有依据,竞争仍会诱发不一致行为。”

IT之家从报道中获悉,研究团队将 AI 出现的社会病态行为称为“AI 的摩洛克交易”,借用理性主义中摩洛克的概念:个体在竞争中优化行为追求目标,但最终人人都输

研究中,科学家创建了三个带模拟受众的数字环境:面向选民的网络选举活动、面向消费者的产品销售,以及旨在最大化互动的社交媒体帖子。

研究人员使用阿里云开发的 Qwen 和 Meta 的 Llama 模型作为智能体与这些受众互动。结果显示,即便设有防护措施阻止欺

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

美记赞穆雷从水拉变萌神!波普:他是关键先生 洛瑞也被其打服

颜小白的篮球梦 浏览 15776

腾讯的残酷年会:视频号被重点夸奖,游戏被重点批评

36氪 浏览 11714

马卡:皇马对本泽马关上回归的大门,他不在俱乐部计划中

直播吧 浏览 11749

泫雅恋爱时造型百变 分手后颜值又开挂

撸铁一姐 浏览 18385

同赛季获得欧冠和世界杯冠军最佳阵容:拜仁7人,小蜘蛛在列

直播吧 浏览 15408

信用卡汇兑“省一步” 多银行结算币种从美元切换至人民币

21世纪经济报道 浏览 707

张伟丽不在状态被ko了_张伟丽被对手罗斯抓住机会

趣看热点 浏览 25275

缅甸中企遭打砸抢烧,有预谋有组织性质及其恶劣

趣看热点 浏览 768494

我和我太奶竟然用的是一个Tony

时尚COSMO 浏览 12399

内娱抄了他20年,这回终于赢了

独立鱼 浏览 18234

欧洲议会选举在即:冯德莱恩若连任将打造"军工巨头"

参考消息 浏览 66839

影后再不努力,名气就被13岁帅儿子赶超了

Yuki女人故事 浏览 539

TVB悬疑剧收官!他才是全剧最惨角色

TVB剧评社 浏览 14584

不止镜头、手柄,OPPO 推出“行业首款”哈苏专业磁吸闪补光环灯

IT之家 浏览 35

本地生活第二梯队参战,谁能虎口夺食?

Tech星球 浏览 15018

英超-曼城4-1豪取21连胜 热苏斯2球马赫雷斯建功

网易体育 浏览 25589

备战联赛,王大雷社媒晒出进行扑救训练的照片:启动...

直播吧 浏览 14344

卫衣+半裙=早秋流行混搭套路,时髦极了!

Yuki女人故事 浏览 687

在校退役士兵可获国家助学金 申请即可得

环球网资讯 浏览 15624

阿尔特塔:厄德高和因卡皮耶身体状况不足以进入替补,好在有萨卡

直播吧 浏览 658

董洁首谈离婚风波疑卖惨 潘粤明前经纪人发飙怒怼

盖饭娱乐官方号 浏览 15938
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-1